tgoop.com/ai_volution/863
Last Update:
Плюшки для разработчиков
- Полноценная поддержка o1 через API: structured output (в каком формате вам необходим ответ - текст, json), function calling (модель в ответе указывает название функции, из предложенных разработчиком в запросе, которую необходимо вызвать с параметрами) и VISION (теперь в API для o1 можно загружать фоточки для анализа).
- Представили новый тип промпта “Developers Messages” (в дополнении к System, User, Assistant промптам). Этот тип инструкции можно использовать для указания стиля ответа, формата, особых условий обработки, ограничения содержимого и других аспектов поведения модели.
- Рассказали о новом параметре в API “reasoning_effort”, который разработчики могут использовать, чтобы контролизовать длительность “размышлений” у модели. Более точные ответы, требуют больше “размышления”, но такие запросы и стоит будут дороже.
- Уронили цены на 60% для Realtime API (GPT-4o audio). Теперь добавлять в свои сервисы голосовых ассистентов с Advanced Voice Mode будет дешевле. А еще добавили новую модель GPT-4o mini, которая будет в 10 раз дешевле.
- А еще Realtime API работает с WebRTC, что позволит проще встраивать голосовых ассистентов на вебе. Опять же, чтобы разные компании наконец-то начали более активно встраивать такие штуки у себя на сайтах.
- Там что-то еще про файнтюнинг и новые SDK, но это вы лучше уже сами почитайте.
Ах да, доступ к o1 в API пока только у разрабочтиков с tier 5.
Презентация: https://www.youtube.com/watch?v=14leJ1fg4Pw&t=178s
Осталось 3 дня!
ИИволюция
