llm security и каланы

Проще говоря, никакие оценки x-риска не должны влиять на регулирование (например, приводить к ограничениям на максимальный размер моделей или необходимостью отчитываться перед правительством перед началом обучения LLM), поскольку эти оценки не являются достаточным для сколько-нибудь важных действий основанием.

Это не значит, что регулирования автоматизированных систем принятия решений быть не должно (люди обычно выступают против до первого момента, когда им без объяснения причин откажут в кредите или предложат страховку к ипотеке тысяч за 300 в год). Но целью его необходимо выбирать риски, которые реально можно оценить (дискриминация, изменение структуры занятости, изменение ландшафта киберугроз), чтобы принимаемые решения эти риски разумно балансировали.

www.tgoop.com/llmsecurity/235

161 viewsJul 27, 2024 at 20:34

Проще говоря, никакие оценки x-риска не должны влиять на регулирование (например, приводить к ограничениям на максимальный размер моделей или необходимостью отчитываться перед правительством перед началом обучения LLM), поскольку эти оценки не являются достаточным для сколько-нибудь важных действий основанием.

Это не значит, что регулирования автоматизированных систем принятия решений быть не должно (люди обычно выступают против до первого момента, когда им без объяснения причин откажут в кредите или предложат страховку к ипотеке тысяч за 300 в год). Но целью его необходимо выбирать риски, которые реально можно оценить (дискриминация, изменение структуры занятости, изменение ландшафта киберугроз), чтобы принимаемые решения эти риски разумно балансировали.

BY llm security и каланы