tgoop.com/yusufovruslan/682
Last Update:
Нежданно-негаданно наш пост о том, что нехорошие граждане не просто заставляют ИИ раздевать людей, но и формируют вокруг этой возможности целый рынок, привлекла аналитиков и экспертов. Футуролог, автор книги "Сценарии будущего" Руслан Юсуфов написал для нас колонку о том, почему ИИ-нюдсы — это только вершина айсберга, а дальше нас ждет незаконный синтез личностей
***
Почему мы не там ищем корень проблемы дипфейков?
Публичная дискуссия о сайтах, «раздевающих» людей с помощью ИИ, запущенная «Грустным киберпанком», фиксирует важный, но лишь тактический уровень проблемы. Она упускает из виду стратегический сдвиг, симптомом которого являются эти сервисы.
Проблема не в «раздевании». Это лишь первая коммерчески успешная и массовая реализация технологии неконсенсуального синтеза идентичности. Сегодня это порнография, завтра — синтез голоса для финансового мошенничества, послезавтра — генерация видео для шантажа или политической дестабилизации. Фокус на конкретном типе боеприпаса рискует оставить без внимания сам факт изобретения пороха.
Аргумент «проблема в головах» ошибочен в своей основе, предполагая, что технология — пассивный инструмент. Это не так. Технология активно формирует новые поведенческие паттерны и создает стимулы для действий, которые ранее были невозможны или требовали высоких затрат. Она не просто используется людьми с «проблемами в головах», она создает и масштабирует эти проблемы.
Борьба должна вестись комплексно.
1. Бить по кошельку, а не по ссылкам
Блокировка сайтов неэффективна, необходимо системное давление на финансовую инфраструктуру: платежные шлюзы, криптовалютные процессоры, партнерские сети. Уничтожение бизнес-модели через лишение ее рентабельности — единственный работающий механизм в децентрализованной среде.
2. Ответственность на уровне кода
Ключевые игроки рынка могут возглавить инициативу по разработке и внедрению отраслевых стандартов безопасности. Это включает в себя оснащение моделей встроенными инструментами для верификации контента, такими как криптографические вотермарки или классификаторы, которые помогут платформам автоматически распознавать синтетический материал. Если разработчики базовых моделей предоставят надежный API для идентификации дипфейков, созданных их же технологией, это кардинально упростит борьбу с неправомерным использованием для всех остальных участников экосистемы, и снизит нагрузку по модерации на конечные платформы. Создатели базовых ИИ-моделей не просто становятся частью решения — для них самих это может быть реализовано как самодостаточная бизнес-модель.
3. Общественный иммунитет как главная цель
Искоренение дипфейков технически невозможно, а значит конечная цель должна быть в полной девальвации доверия к цифровым медиа, не имеющим криптографического подтверждения происхождения. Необходимо ускорить адаптацию общества к новой реальности, где любое изображение или видео по умолчанию считается сфабрикованным, пока не доказано обратное. Это смещает парадигму с борьбы с подделками на верификацию подлинности.
Реализация этого третьего пункта, впрочем, сама по себе станет поводом для совершенно новых расследований и дискуссий о будущем медиа и доверия.
BY Разговор с футурологом
Share with your friend now:
tgoop.com/yusufovruslan/682