Нелицеприятный прогноз. Как AI заставляют угадывать имена людей по фото

Бывают случаи, когда мы угадываем имя человека при знакомстве. Или нам кажется, что интуитивно понимаем, что между именем и носителем есть какая-то взаимосвязь. Американские ученые попытались это проверить, и результаты оказались неожиданными.

Бывают случаи, когда мы угадываем имя человека при знакомстве. Или нам кажется, что интуитивно понимаем, что между именем и носителем есть какая-то взаимосвязь. Американские ученые попытались это проверить, и результаты оказались неожиданными.

Техноад

Технологии и прогресс делают жизнь проще, людей лучше, планету счастливей?

В реальности, к сожалению, далеко не всегда. 

Под тегом «техноад» мы собираем истории цифрового мира, который разочаровал. Равнодушные сервисы, социальная несправедливость бигтеха, мобильные конфузы, тающая приватность в сети, бездушный искусственный интеллект и прочие ужасы. 

Исследовательский центр Mitre Corp. уже несколько лет разрабатывает технологию распознавания имени человека по его лицу. Она основана на предположении, что лицо человека каким-то образом связано с его именем, то есть у всех Иванов есть общие черты лица, которые можно распознать. Несмотря на то, что в теории алгоритм выглядит довольно простым (искусственный интеллект сверяет изображения с базой данных), ученые столкнулись с разными трудностями.

Эффект Дориана Грея

В 2016 году ученые из Еврейского университета в Иерусалиме опубликовали исследование, согласно которому имя человека и его черты лица могут быть взаимосвязаны. Они назвали его «эффектом Дориана Грея». Испытуемые выбирали подходящее имя для портрета, которое им предлагали. В результате эксперимента респонденты угадывали имена в 28,21% случаев. Исследователи рассчитывали на 20% — и результат эксперимента превзошел их ожидания.

Алгоритм распознавания лиц из исследования Еврейского университета. Источник: Apa.org.

Затем угадыванием имен занялся компьютер. Искусственный интеллект проанализировал 100 тысяч лиц случайных людей, после этого ученые предлагали AI одну фотографию и два имени. В 59% случаев компьютер делал правильный выбор. Таким образом результат не был случайным, в противном случае точность составила бы только 50%. Исследователей обвинили в ненаучности подхода, однако сотрудники Mitre Corp. разрабатывали свою технологию именно на этой исследовании.

Влияние стереотипов

В 2020 году центр опубликовал патент, в котором указал, что команде удалось увеличить точность угадывания имени по фотографии. Для этого она использовала базу данных Массачусетского университета Labeled Faces in the Wild, которая содержит более 13 тысяч изображений лиц, собранных в интернете. Каждое изображение помечено именем реального человека. Компьютер выбирал одно из двух предложенных имен, и точность эксперимента составила 80,5%. Для проверки ученые предложили AI и обратный вариант: к имени компьютер подбирал одну из фотографий, которая больше подходит.

Примеры ошибок в распознавании имен из базы данных Labeled Faces in the Wild Массачусетского университета. Источник: Labeled Faces in the Wild.

«Наше имя — это наша первая социальная метка. Каждое имя имеет связанные с ним характеристики поведения и внешнего вида, и, как таковое, оно имеет значение в обществе. Эти стереотипные представления о названиях включают образ внешнего вида лица, так что у нас есть некое представление о „правильном“ внешнем виде, связанном с каждым именем. Со временем эти стереотипные ожидания того, как мы должны выглядеть, и в нашем внешнем виде», — заключают ученые.

Интересно то, что единственный спонсором Mitre Corp. является правительство США, однако неизвестно, для чего необходима эта технология. За последние несколько лет компания получила около $2 миллиардов на различные разработки, а также предоставляла технологию распознавания лиц ФБР. 

Здоровый скепсис

Сотрудники Mitre Corp. не связывались с исследователями Еврейского университета, на публикации которых разработали свою технологию. «Мы не знакомы с этим патентом, и никто к нам не обращался», — сказал один из авторов исследования Джейкоб Голденберг. По его мнению, эта технология может сработать и такие примеры — не редкость. Сегодня ученые применяют распознавание лиц во многих областях: от образования — исследования концентрации внимания учеников в классе — до медицины — обнаружения болезней по характерным чертам лица.

Описание технологии угадывания имен из патента Mitre Corp. 2020 года. Источник: Patenimages.

Результаты эксперимента вызывают скепсис у экспертов. По мнению сотрудника лаборатории Citizen Lab Лекса Джилла, может существовать корреляция между чертами лица и именем человека, однако это основано на восприятии расы и пола. То есть по сути имя — это социальный конструкт, который не может иметь определяющего значения. Иначе исследователи начнут идентифицировать лица гомосексуалов, а еще непонятно, что делать с теми, кто поменял свое имя.

Системы распознавания лиц обвиняют в нарушении права на частную жизнь, также применение подобной технологии может усугублять системный расизм. К примеру, исследования показали, что полиция в США арестовывает невиннных тенокожих людей за преступления, которые они не совершали, на основании совпадений, полученных при распознавании лиц. Это говорит о расовой предвзятости при разработке технологии.

Японские нимфы и пленная Бритни. Как образы из соцсетей разочаровали
Японские нимфы и пленная Бритни. Как образы из соцсетей разочаровали
По теме
Японские нимфы и пленная Бритни. Как образы из соцсетей разочаровали

Разбираемся в украинском ИТ. Подписывайтесь на наш Телеграм-канал и будьте в курсе последних новостей!