CRYPTO_SECURITY_LAB Telegram 917
Принципы безопасности, лежащие в основе подхода 1Password к ИИ (5 минут чтения)

Семь основных принципов безопасности для интеграции ИИ: шифрование секретов, использование детерминированной авторизации вместо вероятностных решений LLM, предотвращение использования необработанных учётных данных в контексте LLM, обеспечение контролируемости, обеспечение прозрачности, реализация принципа минимальных привилегий и баланс безопасности и удобства использования. Агенты ИИ должны следовать строгим правилам доступа, аналогичным правилам людей, предоставляя учётные данные безопасно (например, OAuth), а не через запросы LLM, поддерживая архитектуру с нулевым разглашением. Эти принципы показывают, что традиционное изолированное управление привилегированным доступом неадекватно для эпохи ИИ, которая потребует унифицированных фреймворков для взаимодействия как человека, так и ИИ. https://blog.1password.com/security-principles-guiding-1passwords-approach-to-ai



tgoop.com/crypto_security_lab/917
Create:
Last Update:

Принципы безопасности, лежащие в основе подхода 1Password к ИИ (5 минут чтения)

Семь основных принципов безопасности для интеграции ИИ: шифрование секретов, использование детерминированной авторизации вместо вероятностных решений LLM, предотвращение использования необработанных учётных данных в контексте LLM, обеспечение контролируемости, обеспечение прозрачности, реализация принципа минимальных привилегий и баланс безопасности и удобства использования. Агенты ИИ должны следовать строгим правилам доступа, аналогичным правилам людей, предоставляя учётные данные безопасно (например, OAuth), а не через запросы LLM, поддерживая архитектуру с нулевым разглашением. Эти принципы показывают, что традиционное изолированное управление привилегированным доступом неадекватно для эпохи ИИ, которая потребует унифицированных фреймворков для взаимодействия как человека, так и ИИ. https://blog.1password.com/security-principles-guiding-1passwords-approach-to-ai

BY Security Lab




Share with your friend now:
tgoop.com/crypto_security_lab/917

View MORE
Open in Telegram


Telegram News

Date: |

Telegram iOS app: In the “Chats” tab, click the new message icon in the right upper corner. Select “New Channel.” End-to-end encryption is an important feature in messaging, as it's the first step in protecting users from surveillance. On Tuesday, some local media outlets included Sing Tao Daily cited sources as saying the Hong Kong government was considering restricting access to Telegram. Privacy Commissioner for Personal Data Ada Chung told to the Legislative Council on Monday that government officials, police and lawmakers remain the targets of “doxxing” despite a privacy law amendment last year that criminalised the malicious disclosure of personal information. Done! Now you’re the proud owner of a Telegram channel. The next step is to set up and customize your channel. As of Thursday, the SUCK Channel had 34,146 subscribers, with only one message dated August 28, 2020. It was an announcement stating that police had removed all posts on the channel because its content “contravenes the laws of Hong Kong.”
from us


Telegram Security Lab
FROM American