tgoop.com/llm_under_hood/645
Last Update:
Демо чата с Deep Search поиском - SGR Deep Research
На базе демки бизнес-ассистента с Schema-Guided Reasoning продолжают делать новые и интересные эксперименты.
Валерий Ковальский (@VaKovaLskii) сделал целый проект - это чат-интерфейс, который умеет делать свой Deep Research - самостоятельно искать информацию в интернете, задавать уточняющие вопросы и адаптировать свои планы.
Под капотом:
- gpt-4o-mini для размышлений [1]
- Tavily API для поиска (1000 запросов в месяц бесплатно)
- Ядро адаптивного планировщика из SGR Demo (NextStep reasoning) с новыми инструментами для работы с поиском и планами.
SGR Core находится вот в этих строчках, там сразу видны и новые инструменты.
Ссылки: Код на Github (лицензия MIT) | Пост в Neural Kovalskii
Ваш, @llm_under_hood 🤗
[1] Почему gpt-4o-mini? Как Валерий написал сам: "Хотел что бы любой мог потрогать. Я так же проверил на qwen2.5-7b-instruct, работает"
@i_am_legion еще дополнил: "Огромное спасибо, понравилась реализация! Тестировал на llama.cpp + gpt-oss-120b + searngx (без сторонних сервисов), работает отлично"
BY LLM под капотом
Share with your friend now:
tgoop.com/llm_under_hood/645