WrongTech

Буквально в течение последних 2 дней на фоне протестов в США компании Amazon и IBM отказались от продажи технологии распознавания лиц американским полицейским. Amazon ввели годовой мораторий на продажу своей системы Recognition, в то время как IBM пошла куда дальше, закрыв не только продажу, но и все исследования в области распознавания лиц, а также призвав Конгресс США к масштабной полицейской реформе.

Сам факт того, что технологическая компания призывает к реформе социального института выглядит странно. Но это только на первый взгляд. IBM совершенно обоснованно указывают на проблемы и в технической, и в социальной части работы технологии. Согласно проведенному в MIT исследованию, базы данных, на которых обучаются нейросети для технологии распознавания лиц, на 80% состоят из белокожих людей, а величина ошибки многих систем распознавания для темнокожих женщин составляет 34% (в то время как для белокожих мужчин – около 0,8). С другой стороны, этнографическое исследование в Лос-Анджелевском департаменте полиции, проведенное в 2016 году, показывает, что существующие технологии распознавания лиц усиливают сегрегационные практики по отношению к темнокожим, принятые в полиции. Чтобы система заработала, нужно изменение как в технологии, так и в институциональных практиках. IBM даже призвала к национальному диалогу по поводу системы распознавания лиц.

Эта ситуация, конечно, заставляет задуматься о судьбе этой технологии и в других странах. К примеру, в России, где существует и необходимость реформы полиции, и мы видим полное отсутствие публичного разбора того, как технология работает, какова ее точность и каким образом она может быть использована во благо или ей можно злоупотребить. На самом деле, сейчас необходимо хотя бы первичное описание того, что эта за система, как она появилась и каковы ее перспективы.

Ольга Агапова (@agapova_ol), студентка первого потока магистерской программы Европейского университета и ИТМО «Наука и технология в обществе», работает как раз над этими задачами: понять, какова была история технологии распознавания лиц в России, как она устроена сейчас и какие смыслы придаются ей со стороны как ее защитников, так и страстных критиков. Потому что, кажется, что, чтобы улучшить что-то (а технология распознавания лиц точно нуждается в улучшении), необходимо сначала это понять.

В этом году мы (@nck_rudie, @zemnukhova и коллеги из ЕУ и ИТМО) набираем второй поток студентов, которым интересно заниматься распутыванием паутины из социального, технического, морального и местами политического, чтобы предлагать широкой публике и экспертам более ясную и полную картину развития технологий в обществе. Будем рады всем, у кого эта цель вызывает искренний интерес!

Meduza

Amazon на год запретила полиции США использовать свою технологию по распознаванию лиц

Корпорация Amazon на один год запретила полицейским департаментам США использовать технологию Amazon Rekognition, которая позволяет среди прочего распознавать лица.

www.tgoop.com/wrongtech/551

1.15K viewsNikolay Rudenko, edited  Jun 11, 2020 at 11:30

Буквально в течение последних 2 дней на фоне протестов в США компании Amazon и IBM отказались от продажи технологии распознавания лиц американским полицейским. Amazon ввели годовой мораторий на продажу своей системы Recognition, в то время как IBM пошла куда дальше, закрыв не только продажу, но и все исследования в области распознавания лиц, а также призвав Конгресс США к масштабной полицейской реформе.

Сам факт того, что технологическая компания призывает к реформе социального института выглядит странно. Но это только на первый взгляд. IBM совершенно обоснованно указывают на проблемы и в технической, и в социальной части работы технологии. Согласно проведенному в MIT исследованию, базы данных, на которых обучаются нейросети для технологии распознавания лиц, на 80% состоят из белокожих людей, а величина ошибки многих систем распознавания для темнокожих женщин составляет 34% (в то время как для белокожих мужчин – около 0,8). С другой стороны, этнографическое исследование в Лос-Анджелевском департаменте полиции, проведенное в 2016 году, показывает, что существующие технологии распознавания лиц усиливают сегрегационные практики по отношению к темнокожим, принятые в полиции. Чтобы система заработала, нужно изменение как в технологии, так и в институциональных практиках. IBM даже призвала к национальному диалогу по поводу системы распознавания лиц.

Эта ситуация, конечно, заставляет задуматься о судьбе этой технологии и в других странах. К примеру, в России, где существует и необходимость реформы полиции, и мы видим полное отсутствие публичного разбора того, как технология работает, какова ее точность и каким образом она может быть использована во благо или ей можно злоупотребить. На самом деле, сейчас необходимо хотя бы первичное описание того, что эта за система, как она появилась и каковы ее перспективы.

Ольга Агапова (@agapova_ol), студентка первого потока магистерской программы Европейского университета и ИТМО «Наука и технология в обществе», работает как раз над этими задачами: понять, какова была история технологии распознавания лиц в России, как она устроена сейчас и какие смыслы придаются ей со стороны как ее защитников, так и страстных критиков. Потому что, кажется, что, чтобы улучшить что-то (а технология распознавания лиц точно нуждается в улучшении), необходимо сначала это понять.

В этом году мы (@nck_rudie, @zemnukhova и коллеги из ЕУ и ИТМО) набираем второй поток студентов, которым интересно заниматься распутыванием паутины из социального, технического, морального и местами политического, чтобы предлагать широкой публике и экспертам более ясную и полную картину развития технологий в обществе. Будем рады всем, у кого эта цель вызывает искренний интерес!

BY WrongTech