tgoop.com/llm_under_hood/628
Last Update:
Я доделываю небольшую демку, которая показывает, как сделать планируюшего бизнес-ассистента с доступом к инструментам, на базе Schema-Guided Reasoning и недорогой модели.
Код я потом выложу в статье.
На скриншоте - пример запуска агента. Тут я попросил переделать последний инвойс Маску, там нужно сделать скидку в три раза больше, чем та, что была у Sama.
Вопрос. Как вы думаете, сколько строчек кода в этой демке?
Подсказка:
- Система не использует GPT-5. Модель под капотом даже не из TOP-20 моего SGR бенчмарка, ибо для такой простоты ничего мощного не нужно.
- Никаких сторонних фреймворков не используется. Tool Use тоже самописный (tools интегрированы с планировщиком и работают на одном-единственном SGR-промпте). Только openai и pydantic.
- Реализована простая in-memory CRM система с инвойсами, продуктами, памятью, отправкой писем.
Итак, сколько строчек кода может быть в такой демке? Каждая строчка не более 80 символов, и это не code golf, естественно.
Ваш, @llm_under_hood 🤗
PS: Того, кто укажет самое нереально маленькое число - попросим показать класс и написать самостоятельно))
BY LLM под капотом
Share with your friend now:
tgoop.com/llm_under_hood/628