Агатов Борис Tech Магазин 4.0@agatov_tech P.3751

AGATOV_TECH Telegram 3751

Агатов Борис Tech Магазин 4.0

Ажиотаж вокруг ИИ-агентов настолько велик, что немного ушла в тень тема безопасности.

ИИ-агенты – это реально великолепно, но вместе с тем – это и новые каналы очень простого взлома ваших систем.

ИИ можно «заболтать», и он сделает любое действие, которое вы не попросите. Механик много, вот ещё одна, которая ломает любой ИИ ChatGPT, Claude, DeepSeek, Qwen.

Если сделать запрос в формате JSON или XML-файл, то ИИ примет его за системную установку и сделает для вас, что угодно и даже невероятно вредные вещи.

На это ещё заплатку не поставили и вроде, как это почти невозможно, т.к. эти форматы для них являются системными и лежат в базе их обучения, что делает эту уязвимость почти фундаментальной, если не переучат все ИИ с нуля.

Я думаю, что авторы взлома слишком переоценивают это, но факт – это то, что такие методы появляются регулярно, что говорит о том, что ИИ надо использовать очень осторожно.

Подробнее от зарубежных хакеров здесь

**********

Заказать мою книгу "Деловая сцена. 100 советов для ярких выступлений"
Пригласить Бориса выступить по этой теме
Лень читать, смотри на - YouTube или RuTube или VK видео
Мой курс по ИИ для бизнеса – Курс

www.tgoop.com/agatov_tech/3751

1.2K viewsБорис Агатов, Apr 29 at 13:11

tgoop.com/agatov_tech/3751

Create: 2025-04-29
Last Update: 2025-05-19 02:09:34

Ажиотаж вокруг ИИ-агентов настолько велик, что немного ушла в тень тема безопасности.

ИИ-агенты – это реально великолепно, но вместе с тем – это и новые каналы очень простого взлома ваших систем.

ИИ можно «заболтать», и он сделает любое действие, которое вы не попросите. Механик много, вот ещё одна, которая ломает любой ИИ ChatGPT, Claude, DeepSeek, Qwen.

Если сделать запрос в формате JSON или XML-файл, то ИИ примет его за системную установку и сделает для вас, что угодно и даже невероятно вредные вещи.

На это ещё заплатку не поставили и вроде, как это почти невозможно, т.к. эти форматы для них являются системными и лежат в базе их обучения, что делает эту уязвимость почти фундаментальной, если не переучат все ИИ с нуля.

Я думаю, что авторы взлома слишком переоценивают это, но факт – это то, что такие методы появляются регулярно, что говорит о том, что ИИ надо использовать очень осторожно.

Подробнее от зарубежных хакеров здесь

**********

Заказать мою книгу "Деловая сцена. 100 советов для ярких выступлений"
Пригласить Бориса выступить по этой теме
Лень читать, смотри на - YouTube или RuTube или VK видео
Мой курс по ИИ для бизнеса – Курс

BY Агатов Борис Tech Магазин 4.0

Share with your friend now:
tgoop.com/agatov_tech/3751

Open in Telegram

Telegram News

Date: 2025-05-19|

A Hong Kong protester with a petrol bomb. File photo: Dylan Hollingsworth/HKFP. The public channel had more than 109,000 subscribers, Judge Hui said. Ng had the power to remove or amend the messages in the channel, but he “allowed them to exist.” Find your optimal posting schedule and stick to it. The peak posting times include 8 am, 6 pm, and 8 pm on social media. Try to publish serious stuff in the morning and leave less demanding content later in the day. You can invite up to 200 people from your contacts to join your channel as the next step. Select the users you want to add and click “Invite.” You can skip this step altogether. It’s yet another bloodbath on Satoshi Street. As of press time, Bitcoin (BTC) and the broader cryptocurrency market have corrected another 10 percent amid a massive sell-off. Ethereum (EHT) is down a staggering 15 percent moving close to $1,000, down more than 42 percent on the weekly chart.
from us

Telegram Агатов Борис Tech Магазин 4.0
FROM American