LLM_UNDER_HOOD Telegram 659
Насколько маленькая LLM модель может вытянуть Deep Research?

Насколько плохо или хорошо это будет выглядеть? Насколько будет ерунда под капотом?

Можно заглянуть под капот размышлений относительно небольшой модели gpt-4o-mini/Qwen2.5-7B-Instruct в режиме SGR (NextStep архитектура). Валера навайбкодил интерфейс для отладки, который показывает ход размышлений и вызова инструментов

Да, в проде люди используют модели побольше. Но ведь реально интересно, как будет себя вести крохотная модель, которую даже не обучали под reasoning, но потом заставили следовать схеме размышлений.

Вот, например, результат ответа на вопрос "Find the price of Bitcoin today and find the price for 2023 and 2024" при помощи qwen2.5-7B-Instruct: трейс размышлений c вызовами инструментов и финальный отчет.

Ваш, @llm_under_hood 🤗
🔥53👍86



tgoop.com/llm_under_hood/659
Create:
Last Update:

Насколько маленькая LLM модель может вытянуть Deep Research?

Насколько плохо или хорошо это будет выглядеть? Насколько будет ерунда под капотом?

Можно заглянуть под капот размышлений относительно небольшой модели gpt-4o-mini/Qwen2.5-7B-Instruct в режиме SGR (NextStep архитектура). Валера навайбкодил интерфейс для отладки, который показывает ход размышлений и вызова инструментов

Да, в проде люди используют модели побольше. Но ведь реально интересно, как будет себя вести крохотная модель, которую даже не обучали под reasoning, но потом заставили следовать схеме размышлений.

Вот, например, результат ответа на вопрос "Find the price of Bitcoin today and find the price for 2023 and 2024" при помощи qwen2.5-7B-Instruct: трейс размышлений c вызовами инструментов и финальный отчет.

Ваш, @llm_under_hood 🤗

BY LLM под капотом




Share with your friend now:
tgoop.com/llm_under_hood/659

View MORE
Open in Telegram


Telegram News

Date: |

How to Create a Private or Public Channel on Telegram? For crypto enthusiasts, there was the “gm” app, a self-described “meme app” which only allowed users to greet each other with “gm,” or “good morning,” a common acronym thrown around on Crypto Twitter and Discord. But the gm app was shut down back in September after a hacker reportedly gained access to user data. Other crimes that the SUCK Channel incited under Ng’s watch included using corrosive chemicals to make explosives and causing grievous bodily harm with intent. The court also found Ng responsible for calling on people to assist protesters who clashed violently with police at several universities in November 2019. The main design elements of your Telegram channel include a name, bio (brief description), and avatar. Your bio should be: Matt Hussey, editorial director of NEAR Protocol (and former editor-in-chief of Decrypt) responded to the news of the Telegram group with “#meIRL.”
from us


Telegram LLM под капотом
FROM American