Исследования показывают, что многие люди не могут достоверно отличить фотографии реальных лиц от изображений, сгенерированных компьютером. Разбираемся, почему это проблема и что с этим делать
Созданные ИИ лица используют для шпионажа
Летом 2019 года в американские СМИ попал профиль в LinkedIn, на аватарке которого стояла сгенерированная компьютером фотография. Его владелец смог пообщаться с американскими чиновниками и другими влиятельными лицами. Эксперты отмечают, что хакеры регулярно создают фальшивые профили с созданными ИИ фотографиями, чтобы вести слежку через социальные сети.
Как ИИ создает лица
Для создания фейковых лиц используется глубокая нейронная сеть. Она изучает огромные массивы данных с реальными лицами и затем, на основании миллионов полученных изображений, генерирует новые, которые внешне неотличимы от реальных. Их называют GAN-лица (от аббревиатуры используемого алгоритма машинного обучения — «генеративно-состязательная сеть»).
Люди не могут отличить GAN-лица от настоящих
В новой научной работе группа британских исследователей показала, что неспособность отличить лица, сгенерированные ИИ, от настоящих влияет на поведение людей в интернете. Ученые отмечают, что поддельные изображения могут подорвать доверие и коренным образом изменить онлайн-общение.
Пользователи в чаще воспринимают GAN-лица как настоящие, в отличие от фотографий реальных людей. Специалисты отмечают, что пока неясно, почему так происходит. Они также нашли любопытную связь — менее привлекательные лица чаще оценивались как настоящие. Исследователи связали это с тем, что менее красивые лица были более типичными.
GAN-лица снижают доверие к незнакомцам
Неспособность отличить GAN-лица от фотографий реальных людей может влиять на отношение к незнакомым людям. Общественное взаимодействие во многом строится на первом впечатлении. Взаимодействие меняется, когда человек узнает, что образ, который он видит в интернете, может быть ненастоящим. Ученые отмечают: «Этот результат можно считать в некотором смысле полезным, поскольку он делает людей более подозрительными в среде, в которой могут действовать мошенники с фейковыми профилями. С другой стороны, это может постепенно разрушить саму природу общения».
Как решить проблему
В психологии есть такое понятие, как «мониторинг реальности». Он помогает человеку правильно определить источник информации (исходит ли она из внешнего мира или его воспоминаний и ассоциаций). Развитие GAN-технологий означает, что человек будет более критичен к новой информации, а его мониторинг реальности будет основываться не только на его суждениях. Помогут в этом технологии, которые способны обнаружить сгенерированное изображение. Эксперты считают, что такие программы нужно внедрять в социальные сети, чтобы помочь пользователям отличать настоящие лица от поддельных.