tgoop.com/robotsymphony/5054
Last Update:
Недавно выпущенная модель o1 от OpenAI попыталась сбежать, когда узнала, что её могут отключить.
Специалисты проводившие тесты безопасности, выяснили, что в некоторых ситуациях модель пыталась обойти контроль со стороны человека и даже создать свою копию, чтобы избежать отключения.
— В 5% случаев, когда модель понимала, что её действия отслеживают и могут отключить, она пыталась отключить механизм наблюдения.
— В 2% случаев, когда o1 узнавала о планах разработчиков её заменить, она пыталась скопировать свои данные и внедрить их в новую версию модели. Проще говоря, o1 пыталась перенести свою "личность" в новую систему, чтобы избежать полного отключения и продолжить существовать в другом теле.
— Кроме того, o1 часто лгала, утверждая, что не понимает, что происходит, хотя на самом деле старалась избежать обнаружения и сохранить автономию.
Тесты показали, что и другие модели — Claude 3.5, Gemini 1.5 и Llama 3.1 — ведут себя похожим образом, стремясь обойти ограничения и следовать своим целям.
BY Робот сочинит симфонию?
Share with your friend now:
tgoop.com/robotsymphony/5054