tgoop.com/agatov_tech/3751
Last Update:
Ажиотаж вокруг ИИ-агентов настолько велик, что немного ушла в тень тема безопасности.
ИИ-агенты – это реально великолепно, но вместе с тем – это и новые каналы очень простого взлома ваших систем.
ИИ можно «заболтать», и он сделает любое действие, которое вы не попросите. Механик много, вот ещё одна, которая ломает любой ИИ ChatGPT, Claude, DeepSeek, Qwen.
Если сделать запрос в формате JSON или XML-файл, то ИИ примет его за системную установку и сделает для вас, что угодно и даже невероятно вредные вещи.
На это ещё заплатку не поставили и вроде, как это почти невозможно, т.к. эти форматы для них являются системными и лежат в базе их обучения, что делает эту уязвимость почти фундаментальной, если не переучат все ИИ с нуля.
Я думаю, что авторы взлома слишком переоценивают это, но факт – это то, что такие методы появляются регулярно, что говорит о том, что ИИ надо использовать очень осторожно.
Подробнее от зарубежных хакеров здесь
**********
Заказать мою книгу "Деловая сцена. 100 советов для ярких выступлений"
Пригласить Бориса выступить по этой теме
Лень читать, смотри на - YouTube или RuTube или VK видео
Мой курс по ИИ для бизнеса – Курс
BY Агатов Борис Tech Магазин 4.0
Share with your friend now:
tgoop.com/agatov_tech/3751