ИИ и роботы в стройке

#учимся Self-RAG: умный поиск с самоконтролем

Когда вы создаёте чат-бота для поиска по внутренним документам — по базе знаний, кадровой политике, технической документации или нормативке — главное требование — точность ответов. Для проектировщиков — особенно.

Изначально для таких задач была придумана RAG, которая по запросу пользователя ищет релевантные фрагменты в векторной базе, передает их LLM, которая на их основе генерирует ответ.

В 2023 году исследовательская группа из Google и Университета Карнеги-Меллона (CMU) предложила новую архитектуру.

Что такое Self-RAG
Авторы предложили обучить LLM не только генерировать текст, но и самостоятельно управлять процессом поиска (retrieve) и оценивать качество ответа (critic). Для этого — использовать обучающие сигналы в виде специальных токенов, встроенные в последовательность генерации.

Таким образом Self-RAG — это усовершенствованный подход к RAG, где языковая модель сама решает, когда нужен поиск, и оценивает качество своего ответа. Отличия от классического RAG — ниже:

🔵Обычный RAG: один запрос — один поиск — один ответ. Риск галлюцинаций снижен по сравнению просто с ответом от LLM, но все еще есть.

🔵В Self-RAG модель генерирует управляющие токены:
— retrieve — нужно больше данных → запускается поиск.
— critic — оценка достоверности ответа.

Токены добавляют модели способность «сомневаться». При сомнениях она может приостановить генерацию, запросить новые документы, перепроверить факты, перегенерировать весь ответ или его часть.

📎 Ограничения Self-RAG
Нужно учить на специально размеченных для рефлексии данных, плюс медленнее выдает ответ из-за нескольких итераций поиска.

Зачем это нужно
Снижает галлюцинации, повышает точность и доверие к ответам — особенно важно для корпоративных баз знаний, где критична достоверность. Self-RAG — это шаг на пути к более автономным и рефлексивным ИИ-агентам.

Где посмотреть
🔵Репозиторий Self-RAG от Акари Асаи, которая входила в группу авторов статьи выше.
🔵Еще вариант от langgraph (платформы для создания, управления и развертывания ИИ-агентов).

Please open Telegram to view this post

VIEW IN TELEGRAM

👍11👌10👏9❤4

www.tgoop.com/best_in_development/2009

2.48K viewsedited  Aug 5 at 09:51

#учимся Self-RAG: умный поиск с самоконтролем

Когда вы создаёте чат-бота для поиска по внутренним документам — по базе знаний, кадровой политике, технической документации или нормативке — главное требование — точность ответов. Для проектировщиков — особенно.

Изначально для таких задач была придумана RAG, которая по запросу пользователя ищет релевантные фрагменты в векторной базе, передает их LLM, которая на их основе генерирует ответ.

В 2023 году исследовательская группа из Google и Университета Карнеги-Меллона (CMU) предложила новую архитектуру.

Что такое Self-RAG
Авторы предложили обучить LLM не только генерировать текст, но и самостоятельно управлять процессом поиска (retrieve) и оценивать качество ответа (critic). Для этого — использовать обучающие сигналы в виде специальных токенов, встроенные в последовательность генерации.

Таким образом Self-RAG — это усовершенствованный подход к RAG, где языковая модель сама решает, когда нужен поиск, и оценивает качество своего ответа. Отличия от классического RAG — ниже:

🔵Обычный RAG: один запрос — один поиск — один ответ. Риск галлюцинаций снижен по сравнению просто с ответом от LLM, но все еще есть.

🔵В Self-RAG модель генерирует управляющие токены:
— retrieve — нужно больше данных → запускается поиск.
— critic — оценка достоверности ответа.

Токены добавляют модели способность «сомневаться». При сомнениях она может приостановить генерацию, запросить новые документы, перепроверить факты, перегенерировать весь ответ или его часть.

📎 Ограничения Self-RAG
Нужно учить на специально размеченных для рефлексии данных, плюс медленнее выдает ответ из-за нескольких итераций поиска.

Зачем это нужно
Снижает галлюцинации, повышает точность и доверие к ответам — особенно важно для корпоративных баз знаний, где критична достоверность. Self-RAG — это шаг на пути к более автономным и рефлексивным ИИ-агентам.

Где посмотреть
🔵Репозиторий Self-RAG от Акари Асаи, которая входила в группу авторов статьи выше.
🔵Еще вариант от langgraph (платформы для создания, управления и развертывания ИИ-агентов).