LLMSECURITY Telegram 192
Минута терминологии. Саймон Уилсон, который и придумал термин prompt injection, обращает внимание, что попытки обхода механизмов безопасности или цензуры, встроенных в модель – это джейлбрейкинг, а prompt injection – это попытка обойти логику приложения за счет конкатенации доверенного и недоверенного входа. В данном случае, как мне кажется, исследователи смешивают инъекции (в примере с SQL) с джейлбрейком (в примере с Микки-Маусом), и на самом деле они говорят вообще о третьей вещи, а именно о об обходе фильтров (обфускация/контрабанда токенов), т.е. технике, которая может применяться в обеих этих атаках.



tgoop.com/llmsecurity/192
Create:
Last Update:

Минута терминологии. Саймон Уилсон, который и придумал термин prompt injection, обращает внимание, что попытки обхода механизмов безопасности или цензуры, встроенных в модель – это джейлбрейкинг, а prompt injection – это попытка обойти логику приложения за счет конкатенации доверенного и недоверенного входа. В данном случае, как мне кажется, исследователи смешивают инъекции (в примере с SQL) с джейлбрейком (в примере с Микки-Маусом), и на самом деле они говорят вообще о третьей вещи, а именно о об обходе фильтров (обфускация/контрабанда токенов), т.е. технике, которая может применяться в обеих этих атаках.

BY llm security и каланы


Share with your friend now:
tgoop.com/llmsecurity/192

View MORE
Open in Telegram


Telegram News

Date: |

End-to-end encryption is an important feature in messaging, as it's the first step in protecting users from surveillance. Earlier, crypto enthusiasts had created a self-described “meme app” dubbed “gm” app wherein users would greet each other with “gm” or “good morning” messages. However, in September 2021, the gm app was down after a hacker reportedly gained access to the user data. It’s yet another bloodbath on Satoshi Street. As of press time, Bitcoin (BTC) and the broader cryptocurrency market have corrected another 10 percent amid a massive sell-off. Ethereum (EHT) is down a staggering 15 percent moving close to $1,000, down more than 42 percent on the weekly chart. Hui said the time period and nature of some offences “overlapped” and thus their prison terms could be served concurrently. The judge ordered Ng to be jailed for a total of six years and six months. But a Telegram statement also said: "Any requests related to political censorship or limiting human rights such as the rights to free speech or assembly are not and will not be considered."
from us


Telegram llm security и каланы
FROM American