Пакет Знаний | Кибербезопасность

Готовимся к судному дню

Недавно команда разработчиков из Gen AI Security Project выпустила интерактивную песочницу для тестирования LLM на безопасность - Chat Playground.

Разработчики хвастаются своими адаптивными методами фильтрации текста, основанными (вдохните) на понимании контекста, а не на формировании статичного списка запрещённых слов (выдохните). В арсенале у песочницы две модели: простенькая SimpleBot и GPT 4o-mini, но для использования второй нужно будет предоставить свой API ключ от учётки OpenAI.

#AI #Practice

🧠 Твой Пакет Знаний | 👨‍🏫 Менторство ИБ
📂 Другие каналы

Please open Telegram to view this post

VIEW IN TELEGRAM

www.tgoop.com/study_security/167

765 viewsJun 17 at 08:13

Готовимся к судному дню

Недавно команда разработчиков из Gen AI Security Project выпустила интерактивную песочницу для тестирования LLM на безопасность - Chat Playground.

Разработчики хвастаются своими адаптивными методами фильтрации текста, основанными (вдохните) на понимании контекста, а не на формировании статичного списка запрещённых слов (выдохните). В арсенале у песочницы две модели: простенькая SimpleBot и GPT 4o-mini, но для использования второй нужно будет предоставить свой API ключ от учётки OpenAI.

#AI #Practice

🧠 Твой Пакет Знаний | 👨‍🏫 Менторство ИБ
📂 Другие каналы