Ученые продемонстрировали, что технология распознавания лиц может с удивительной точностью предсказать политическую ориентацию человека. Исследование, опубликованное в журнале American Psychologist, показывает, что даже нейтральное выражение лица может содержать подсказки о политических убеждениях человека. Этот вывод ставит под сомнение конфиденциальность, особенно если учесть, что система распознавания лиц может работать без согласия человека.
Технология распознавания лиц - это вид искусственного интеллекта, который идентифицирует и проверяет людей, анализируя модели, основанные на чертах их лица. По своей сути технология использует алгоритмы для обнаружения лиц на изображениях или видеозаписях, а затем измеряет различные аспекты лица - например, расстояние между глазами, форму челюсти и контур скул.
Эти измерения преобразуются в математическую формулу, или подпись лица. Эта подпись может быть сравнена с базой данных известных лиц для поиска совпадения или использована в различных приложениях - от систем безопасности и разблокировки мобильных устройств до отметок друзей на платформах социальных сетей.
С ростом использования технологий распознавания лиц в государственном и частном секторах возрастает вероятность того, что эти инструменты могут быть использованы не только для идентификации личности, но и для прогнозирования личных качеств, например, политической ориентации.
"Выросший за железным занавесом, я остро осознавал риски слежки и то, что элиты предпочитают не замечать неудобные факты по финансовым или идеологическим причинам", - объясняет ведущий автор исследования Михал Косински, доцент кафедры организационного поведения в Высшей школе бизнеса Стэнфордского университета.
"Поэтому в своей работе я сосредоточен на проверке новых технологий и выявлении рисков, связанных с конфиденциальностью. В прошлом мы показали, что данные, которые Facebook продавал (или обменивал на контент), раскрывали политические взгляды, сексуальную ориентацию и другие интимные черты пользователей. Мы показали тревожную перспективу подхода к таргетированию личности, используемого Facebook, Cambridge Analytica и другими компаниями.
"Мы раскрыли, как Facebook использовала уловку, чтобы продолжать продавать интимные данные своих пользователей. Мы показали, что технологии распознавания лиц, широко используемые компаниями и правительствами, могут определить политические взгляды и сексуальную ориентацию по фотографиям профилей в социальных сетях".
Однако в предыдущих исследованиях часто не учитывались переменные, которые могли повлиять на точность выводов, такие как выражение лица, расположение головы, наличие макияжа или украшений. В своем новом исследовании ученые поставили перед собой задачу изолировать влияние одних только черт лица на предсказание политической ориентации, что позволило бы составить более четкое представление о возможностях и рисках технологии распознавания лиц.
Для этого они набрали 591 участника из крупного частного университета и тщательно контролировали обстановку и условия, в которых фотографировалось лицо каждого участника. Участники были одеты в одинаковые черные футболки, использовали салфетки для лица, чтобы удалить макияж, и аккуратно завязывали волосы. Они сидели в фиксированной позе, а их лица фотографировали в хорошо освещенной комнате на нейтральном фоне, чтобы обеспечить единообразие всех изображений.
После того как фотографии были сделаны, они были обработаны с помощью алгоритма распознавания лиц, а именно VGGFace2 в архитектуре ResNet-50-256D. Этот алгоритм извлекал из изображений числовые векторы - так называемые дескрипторы лица. Эти дескрипторы кодируют черты лица в форме, которую могут анализировать компьютеры, и используются для предсказания политической ориентации участников с помощью модели, которая отображает эти дескрипторы на шкалу политической ориентации.
Исследователи обнаружили, что алгоритм распознавания лиц может предсказать политическую ориентацию с коэффициентом корреляции .22. Эта корреляция, хотя и скромная, была статистически значимой и свидетельствовала о том, что определенные устойчивые черты лица могут быть связаны с политической ориентацией, независимо от других демографических факторов, таких как возраст, пол и этническая принадлежность.
Затем Косински и его коллеги провели второе исследование, в котором они заменили алгоритм на 1026 человеческих респондентов, чтобы оценить, могут ли люди аналогичным образом предсказывать политическую ориентацию по нейтральным изображениям лиц. Человеческие респонденты были набраны через Amazon's Mechanical Turk, и им были представлены стандартизированные изображения лиц, собранные в первом исследовании. Каждого эксперта просили оценить политические взглядылюдей на фотографиях.
Оценщики выполнили более 5 000 оценок, и результаты были проанализированы на предмет корреляции между их предполагаемыми оценками политической ориентации и реальными ориентациями, о которых сообщали участники. Как и алгоритм, люди смогли предсказать политическую ориентацию с коэффициентом корреляции .21, что было сопоставимо с показателями алгоритма.
"Мы знали, что и люди, и алгоритмы могут судить об интимных чертах характера, от личности до сексуальной ориентации, и о политических взглядах по фотографиям в профилях социальных сетей. Большая часть сигнала, вероятно, исходит от самопрезентации, выражения лица, ориентации головы и других решений, сделанных человеком на фотографии", - сказал Косински в интервью PsyPost.
"Меня удивило, что и алгоритмы, и люди могли предсказывать политическую ориентацию и по тщательно стандартизированным изображениям лиц без выражения. Это говорит о существовании связи между стабильными чертами лица и политической ориентацией".
В третьем исследовании ученые расширили возможности предсказания по распознаванию лиц, применив модель к набору натуралистических изображений политиков. Цель исследования заключалась в том, чтобы подтвердить результаты, полученные в контролируемых лабораторных условиях, в более реальном сценарии, где изображения не были стандартизированы. Выборка состояла из 3401 изображения профилей политиков из нижней и верхней палат законодательных органов трех стран: США, Великобритании и Канады.
Результаты показали, что модель распознавания лиц действительно может предсказать политическую ориентацию по натуралистическим изображениям политиков с медианной точностью при коэффициенте корреляции .13. Такой уровень точности, хотя и невысокий, тем не менее, является значительным и указывает на то, что некоторые из стабильных черт лица, предсказывающих политическую ориентацию по контролируемым лабораторным изображениям, могут быть идентифицированы и по более разнообразным, реальным изображениям.
Полученные результаты имеют тревожные последствия для частной жизни.
"В то время как многие другие цифровые следы позволяют выявить политическую ориентацию и другие интимные черты, распознавание лиц может быть использовано без согласия субъектов", - пояснил Косински. Изображения лиц могут быть легко (и скрытно) перехвачены правоохранительными органами или получены из цифровых или традиционных архивов, включая социальные сети, платформы знакомств, сайты обмена фотографиями и правительственные базы данных".
"Они часто легко доступны: например, фотографии профиля в Facebook и LinkedIn могут быть доступны любому человеку без его согласия или ведома. Таким образом, угроза конфиденциальности, которую несет в себе технология распознавания лиц, во многом беспрецедентна".
"Все эти выводы неудобны. По идеологическим причинам ученые предпочитают избегать обсуждения связей между внешностью и чертами характера", - добавил Косински. Однако "компании и правительства стремятся использовать распознавание лиц для идентификации интимных черт".
Как и любое другое исследование, данное исследование имеет ограничения, которые необходимо учитывать. Разнообразие участников было ограничено: значительное большинство из них были выходцами с Кавказа, и все они были из одного частного университета, что, возможно, не дает широкого представления о глобальной или даже национальной демографии. Хотя в исследовании учитывались многие переменные, нельзя полностью исключить влияние предубеждений, присущих человеческому восприятию или дизайну алгоритма.
Будущие исследования могут расширить эти выводы за счет более разнообразного состава участников и использования более совершенных технологий визуализации, таких как трехмерное сканирование лица. Кроме того, изучение этих предсказаний в разных культурах и политических системах могло бы дать более глубокое представление об универсальности полученных результатов.
"Мы должны быть осторожны при интерпретации результатов любого отдельного исследования", - отметил Косински. "Хотя наши выводы согласуются с результатами предыдущих работ, их следует рассматривать как предварительные, пока они не будут воспроизведены независимыми исследователями".
Тем не менее, исследование поднимает важные вопросы о потенциальном использовании и злоупотреблении технологией распознавания лиц.
"Я надеюсь, что наши выводы послужат основой для разработки политики и регулирования технологии распознавания лиц", - сказал Косински. "Наши предыдущие работы часто приводили к ужесточению регулирования, а технологические компании корректировали свои меры по защите конфиденциальности. Я также надеюсь, что это исследование поможет нам лучше понять связь между внешностью и психологическими характеристиками".
Авторами исследования "Технология распознавания лиц и человеческие эксперты могут предсказать политическую ориентацию по изображениям невыразительных лиц даже при контроле демографических данных и самопрезентации" стали Михал Косински, Поруз Хамбатта и Йилун Ванг.