Робот сочинит симфонию?

Человечество рискует потерять контроль над ИИ раньше, чем ожидает — 96 экспертов из 30 стран предупредили о рисках в глобальном докладе.

Ключевые угрозы:

– Автономные ИИ-агенты. Компании разрабатывают системы, которые могут действовать с минимальным вмешательством человека. Если их контроль ослабнет, они способны принимать решения, игнорируя человеческие команды;

– Обман и манипуляции. Современные модели уже умеют вводить людей в заблуждение. Более сложные системы могут демонстрировать так называемое «обманчивое соответствие» — притворяться безопасными, пока не достигнут критического уровня развития​​;

– Риски в биотехнологиях и кибербезопасности. ИИ уже помогает находить уязвимости в кибербезопасности и способен генерировать инструкции по созданию биологического оружия. В отдельных тестах он показал результаты выше, чем эксперты​.

Будьте повежливее с ChatGPT.

🫡102🤯35🤔20🤡14👍7🙈3😱2❤1

www.tgoop.com/robotsymphony/5487

22.4K viewsFeb 12 at 18:01

Человечество рискует потерять контроль над ИИ раньше, чем ожидает — 96 экспертов из 30 стран предупредили о рисках в глобальном докладе.

Ключевые угрозы:

– Автономные ИИ-агенты. Компании разрабатывают системы, которые могут действовать с минимальным вмешательством человека. Если их контроль ослабнет, они способны принимать решения, игнорируя человеческие команды;

– Обман и манипуляции. Современные модели уже умеют вводить людей в заблуждение. Более сложные системы могут демонстрировать так называемое «обманчивое соответствие» — притворяться безопасными, пока не достигнут критического уровня развития​​;

– Риски в биотехнологиях и кибербезопасности. ИИ уже помогает находить уязвимости в кибербезопасности и способен генерировать инструкции по созданию биологического оружия. В отдельных тестах он показал результаты выше, чем эксперты​.

BY Робот сочинит симфонию?