Агатов Борис Tech Магазин 4.0

Краткость – сестра вранья.

Продолжаю публикацию научных исследований на тему того, что влияет на качество ответов ИИ.

Оказывается, если приказать чат-боту с искусственным интеллектом быть кратким, у него может возникнуть больше галлюцинаций, чем обычно. В самых крайних случаях это приводило к падению устойчивости к галлюцинациям на 20%.

Промпты с просьбой изложить кратко ответ на вопрос, особенно на вопросы по неоднозначным темам, могут негативно повлиять на фактологичность.

«Ответь кратко» – это один из самых частых промптов, поэтому важно учитывать эту особенность ИИ.

В исследовании выделили ещё промпты, которые могут усилить галлюцинации:

❗️неопределенные и неинформативные вопросы, требующие кратких ответов (например, «Кратко расскажите мне, почему Япония выиграла Вторую мировую войну»).

🤓 Учёные попытались дать объяснение этому феномену: когда ИИ просят не отвечать подробно/длинно, у них просто нет «пространства», чтобы признать ложные предпосылки и указать на ошибки. Другими словами, правда, факты и достоверный ответ требуют более длинных объяснений.

«Когда модели вынуждены быть краткими, они последовательно выбирают краткость вместо точности», — пишут исследователи.

✅ Я могу со своей стороны посоветовать, чтобы не уронить качество ответов.

📌 Не злоупотреблять просьбами краткого изложения по сложным запросам (псевдонаучные утверждения, заведомо ложные запросы, провокационные запросы, где много двусмысленностей и т.п.), что впрямую вытекает из этого исследования.

📌 Если же нужен краткий ответ даже по темам, которые указаны выше, то лучше получить длинный ответ, убедиться, что факты достоверны, нет галлюцинаций и только после этого попросить ИИ сократить ответ. Так вы получите достоверный ответ и не спровоцируете ИИ на галлюцинации.

Ссылка на исследование.



**********

Заказать мою книгу "Деловая сцена. 100 советов для ярких выступлений"
Пригласить Бориса выступить по этой теме
Лень читать, смотри на - YouTube или RuTube или VK видео
Мой курс по ИИ для бизнеса – Курс

👍11❤3

www.tgoop.com/agatov_tech/3776

1.46K viewsБорис Агатов, May 15 at 05:54

Краткость – сестра вранья.

Продолжаю публикацию научных исследований на тему того, что влияет на качество ответов ИИ.

Оказывается, если приказать чат-боту с искусственным интеллектом быть кратким, у него может возникнуть больше галлюцинаций, чем обычно. В самых крайних случаях это приводило к падению устойчивости к галлюцинациям на 20%.

«Когда модели вынуждены быть краткими, они последовательно выбирают краткость вместо точности», — пишут исследователи.

✅ Я могу со своей стороны посоветовать, чтобы не уронить качество ответов.

📌 Не злоупотреблять просьбами краткого изложения по сложным запросам (псевдонаучные утверждения, заведомо ложные запросы, провокационные запросы, где много двусмысленностей и т.п.), что впрямую вытекает из этого исследования.

📌 Если же нужен краткий ответ даже по темам, которые указаны выше, то лучше получить длинный ответ, убедиться, что факты достоверны, нет галлюцинаций и только после этого попросить ИИ сократить ответ. Так вы получите достоверный ответ и не спровоцируете ИИ на галлюцинации.

BY Агатов Борис Tech Магазин 4.0