NoML Digest

NoML Digest

Про конфиденциальную аналитику В среду поучаствовал в IV встрече экспертного сообщества по криптографии и большим данным. Мероприятие было организовано компанией Криптонит @kryptonite_channel и проходило в Музее криптографии @cryptography_museum (кстати,…

Про доверенный ИИ и AI TRiSM

Появилась запись встречи экспертного сообщества по криптографии и большим данным от 28 августа 2024 года по теме “Доверенный ИИ”:
▫️ RuTube | VK Видео (~2 часа 30 минут).

Еще вслед небольшая мысль, которую не успел озвучить во время своего выступления. Есть такой термин от Гартнера AI TRiSM (Trust, Risk, Security Management), стоящий на 4-х столпах:
▫️ Explainability / Model Monitoring;
▫️ ModelOps;
▫️ AI Application Security;
▫️ (Data) Privacy.
Все эти темы как раз детально обсудили на встрече экспертного сообщества 28 августа.

По нашему мнению есть еще один важный столп, который должны накрывать вопросы доверенного ИИ, это:
▫️ Процессы принятия решений.
Ведь степень доверия к технологиям и методам DS/ML/AI не может быть абсолютной, она всегда относительна — относительна бизнес-приложениям, в которых используются эти методы, то есть принятию решений, которые частично или полностью автоматизируются с помощью ИИ.

А математическая оптимизация и исследование операций, которые мы тут активно продвигаем — это как раз про моделирование для автоматизации принятия решений.

www.tgoop.com/noml_digest/734

1.85K viewsPavel Snurnitsyn, edited  Sep 24, 2024 at 11:48

Про доверенный ИИ и AI TRiSM

Появилась запись встречи экспертного сообщества по криптографии и большим данным от 28 августа 2024 года по теме “Доверенный ИИ”:
▫️ RuTube | VK Видео (~2 часа 30 минут).

Еще вслед небольшая мысль, которую не успел озвучить во время своего выступления. Есть такой термин от Гартнера AI TRiSM (Trust, Risk, Security Management), стоящий на 4-х столпах:
▫️ Explainability / Model Monitoring;
▫️ ModelOps;
▫️ AI Application Security;
▫️ (Data) Privacy.
Все эти темы как раз детально обсудили на встрече экспертного сообщества 28 августа.

По нашему мнению есть еще один важный столп, который должны накрывать вопросы доверенного ИИ, это:
▫️ Процессы принятия решений.
Ведь степень доверия к технологиям и методам DS/ML/AI не может быть абсолютной, она всегда относительна — относительна бизнес-приложениям, в которых используются эти методы, то есть принятию решений, которые частично или полностью автоматизируются с помощью ИИ.

А математическая оптимизация и исследование операций, которые мы тут активно продвигаем — это как раз про моделирование для автоматизации принятия решений.

BY NoML Digest