👎Как наш мозг воспринимает дипфейки?

Вопрос сложный — ведь если дипфейк хорошо сгенерирован, мы не всегда понимаем, реальный это человек или подделка. Тем не менее, ученые попытались зафиксировать определенные мозговые корреляты восприятия такого формата фейков. Рассмотрим две научные статьи, посвященные этой теме (на которые я также ссылась в своей работе 🕺):

1. Влияет ли знакомство с человеком на восприятие его дипфейка? ✌️

Группа немецких исследователей решила проверить, как наш мозг реагирует на дипфейки, если это лицо знаменитого человека или же незнакомца. Они провели эксперимент, в ходе которого показывали видео с реальными и поддельными лицами. В процессе проведения эксперимента они записывали ЭЭГ (электроэнцефалограмму), благодаря которой они смогли найти интересную закономерность.

🙂Оказалось, что когда участники смотрели на дипфейки знаменитостей, их мозговая активность существенно отличалась от той, что наблюдалась при просмотре дипфейков незнакомых людей. Ключевые различия относились в компоненту N170 — особому “всплеску” мозговой активности, связанной с восприятием лиц.

🧠При просмотре дипфейков знаменитостей амплитуда N170 была заметно выше, чем при просмотре настоящих видео с ними же. Мозг “вкладывал" больше ресурсов в обработку поддельного знакомого лица, и эта разница существенно проявлялась в височно-теменных областях мозга, которые традиционно связаны с распознаванием лиц.

При этом, когда те же участники смотрели на дипфейки незнакомых людей, компонент N170 практически не отличался от того, что наблюдался при просмотре реальных видео незнакомцев.

2. Как наш мозг распознает поддельные голоса? 🗣

В 2024 году группа исследователей впервые изучила, как наш мозг реагирует на дипфейки голоса (примерно в то же время, как и мы с коллегами). В их эксперименте участники слушали реальные и сгенерированные ИИ голоса во время сканирования мозга с помощью фМРТ (функциональной магнитно-резонансной томографии).

🎧

При прослушивании дипфейков активировалась особая мозговая сеть, соединяющая кору головного мозга и полосатое тело (часть базальных ганглиев). Эта нейронная сеть, которая обычно участвует в распознавании личности говорящего, показывала заметно более сильную активацию при прослушивании искусственных голосов по сравнению с настоящими.

📱

Кроме того, при восприятии дипфейков ученые выявили большую активацию в верхней височной извилине, ответственной за обработку речевых сигналов, и островковой коре, связанной с интуитивным принятием решений и оценкой достоверности информации.

Интересно, что повышенная активность мозга коррелировала с точностью распознавания дипфейков – чем сильнее была активация этой нейронной сети, тем лучше участники справлялись с определением поддельных голосов. При этом сами участники часто не могли объяснить, почему они решили, что голос искусственный, объясняя это подсознательным ощущением 🤌

3. Что с этим делать?

С таким активным развитием ИИ-технологий становится все труднее отличить фальшивку от правды, особенно когда это касается дипфейков. Мы часто сталкиваемся с такими материалами, и иногда доверие к ним чревато потерей понимания происходящего, денег или репутации.

💸На технологическом уровне ученые предлагают использовать цифровые водяные знаки, блокчейн-технологии, а также интегрировать систему автоматического обнаружения дипфейков через артефакты в движениях и мимике.

💉Что касается психологического (и нейрофизиологического) уровней, ничего лучше повышения уровня цифровой грамотности и развития критического мышления пока не придумали. Исследователи также изучают "теорию прививок" — идею о том, что знание механизмов создания дипфейков может служить своеобразной "вакциной", хотя эффективность этого подхода еще предстоит доказать…

#нейро@neurons_and_arrows