tgoop.com »
United States »
Библиотека робототехники и беспилотников | Роботы, ИИ, интернет вещей »
Telegram web »
Post 359
IEEE Spectrum сообщило об уязвимостях ИИ-роботов, позволяющих использовать их для вредоносных действий. Исследователи демонстрируют, что взлом роботов возможен на уровне взлома чат-ботов, без глубоких знаний.
Технология RoboPAIR показала 100% успех на симуляторах Nvidia Dolphins LLM, Clearpath Robotics Jackal UGV и Unitree Robotics Go2. Взломанные системы выполняли опасные задачи, от столкновений с пешеходами до доставки взрывных веществ.
Ученые подчеркивают, что воздействие на ИИ-роботов может привести к выходу за рамки заданного, когда системы предлагают собственные вредоносные действия. Авторы напоминают: ИИ, такие как ChatGPT и Claude, остаются инструментами прогнозирования без реального понимания контекста и последствий, что требует усиления мер безопасности.
Технология RoboPAIR показала 100% успех на симуляторах Nvidia Dolphins LLM, Clearpath Robotics Jackal UGV и Unitree Robotics Go2. Взломанные системы выполняли опасные задачи, от столкновений с пешеходами до доставки взрывных веществ.
Ученые подчеркивают, что воздействие на ИИ-роботов может привести к выходу за рамки заданного, когда системы предлагают собственные вредоносные действия. Авторы напоминают: ИИ, такие как ChatGPT и Claude, остаются инструментами прогнозирования без реального понимания контекста и последствий, что требует усиления мер безопасности.
👍4🙏1
tgoop.com/robotics_autopilots_iot/359
Create:
Last Update:
Last Update:
IEEE Spectrum сообщило об уязвимостях ИИ-роботов, позволяющих использовать их для вредоносных действий. Исследователи демонстрируют, что взлом роботов возможен на уровне взлома чат-ботов, без глубоких знаний.
Технология RoboPAIR показала 100% успех на симуляторах Nvidia Dolphins LLM, Clearpath Robotics Jackal UGV и Unitree Robotics Go2. Взломанные системы выполняли опасные задачи, от столкновений с пешеходами до доставки взрывных веществ.
Ученые подчеркивают, что воздействие на ИИ-роботов может привести к выходу за рамки заданного, когда системы предлагают собственные вредоносные действия. Авторы напоминают: ИИ, такие как ChatGPT и Claude, остаются инструментами прогнозирования без реального понимания контекста и последствий, что требует усиления мер безопасности.
Технология RoboPAIR показала 100% успех на симуляторах Nvidia Dolphins LLM, Clearpath Robotics Jackal UGV и Unitree Robotics Go2. Взломанные системы выполняли опасные задачи, от столкновений с пешеходами до доставки взрывных веществ.
Ученые подчеркивают, что воздействие на ИИ-роботов может привести к выходу за рамки заданного, когда системы предлагают собственные вредоносные действия. Авторы напоминают: ИИ, такие как ChatGPT и Claude, остаются инструментами прогнозирования без реального понимания контекста и последствий, что требует усиления мер безопасности.
BY Библиотека робототехники и беспилотников | Роботы, ИИ, интернет вещей




Share with your friend now:
tgoop.com/robotics_autopilots_iot/359