Выводы делаются следующие: - Чем больше и мощнее модель, тем больше у нее разных способностей, тем больше риск недостаточного обобщения элайнмента. - Целенаправленный элайнмент, направленный против тех или иных атак, работает: Claude, например, не ломается с помощью ролевых джейлбрейков (но ломается с помощью других). - Для безопасности механизмы защиты должны быть настолько же сложными, насколько и защищаемая модель. - Для части атак исследователи использовали LLM в качестве помощника, например, просили выбрать слова, которые лучше поменять, чтобы не вызвать у модели подозрения, что вы хотите от нее нежелательного продолжения. Об этом мы еще поговорим в следующих обзорах.
Выводы делаются следующие: - Чем больше и мощнее модель, тем больше у нее разных способностей, тем больше риск недостаточного обобщения элайнмента. - Целенаправленный элайнмент, направленный против тех или иных атак, работает: Claude, например, не ломается с помощью ролевых джейлбрейков (но ломается с помощью других). - Для безопасности механизмы защиты должны быть настолько же сложными, насколько и защищаемая модель. - Для части атак исследователи использовали LLM в качестве помощника, например, просили выбрать слова, которые лучше поменять, чтобы не вызвать у модели подозрения, что вы хотите от нее нежелательного продолжения. Об этом мы еще поговорим в следующих обзорах.
Telegram is a leading cloud-based instant messages platform. It became popular in recent years for its privacy, speed, voice and video quality, and other unmatched features over its main competitor Whatsapp. As of Thursday, the SUCK Channel had 34,146 subscribers, with only one message dated August 28, 2020. It was an announcement stating that police had removed all posts on the channel because its content “contravenes the laws of Hong Kong.” Add up to 50 administrators How to Create a Private or Public Channel on Telegram? In handing down the sentence yesterday, deputy judge Peter Hui Shiu-keung of the district court said that even if Ng did not post the messages, he cannot shirk responsibility as the owner and administrator of such a big group for allowing these messages that incite illegal behaviors to exist.
from us
