tgoop.com/data_talks/580
Last Update:
OpenAI представила GPT-5 — флагманскую модель, которая показала высокие результаты в бенчмарках по программированию, медицине и научным задачам, а уровень галлюцинаций в режиме рассуждения снизился на 80% по сравнению с предыдущими моделями. Она уже становится моделью по умолчанию в ChatGPT и доступна даже в бесплатной версии — с ограничениями по лимитам.
Вторая новость от OpenAI — релиз моделей gpt-oss с открытыми весами. Обе версии — 20b и 120b — доступны под Apache 2.0, поддерживают цепочки рассуждений и легко запускаются даже локально. По ряду бенчмарков они превосходят o3-mini и приближаются к o4-mini. Технические детали — в обзоре на Хабре.
Однако открытость и интеграция ИИ с внешними сервисами дают хакерам новые инструменты. Так, ChatGPT оказался уязвим для атаки AgentFlayer: скрытые инструкции в документе позволяют незаметно передавать данные из Google Drive.
Схожую уязвимость обнаружили у Google Gemini. Через «Google Календарь» злоумышленники смогли активировать команды, которые запускали устройства умного дома. Команда, набранная белым шрифтом, превращалась в скрипт, выполняемый ИИ. Это серьёзный сигнал: генеративные модели уже не только генерируют тексты, но и могут быть инструментом вмешательства в физическую среду.
BY Data & AI Talks
Share with your friend now:
tgoop.com/data_talks/580