Синтетические человеческие лица настолько убедительны, что могут обмануть даже обученных наблюдателей, и они могут быть очень эффективны для использования в мошенничестве
Искусственный интеллект может создавать такие реалистичные человеческие лица, что люди не могут отличить их от реальных лиц – и на самом деле они больше доверяют поддельным лицам.
Вымышленные, созданные компьютером человеческие лица настолько убедительны, что могут обмануть даже обученных наблюдателей. Их можно легко загрузить онлайн и использовать для интернет-мошенничества и фальшивых профилей в социальных сетях.
“Мы должны быть обеспокоены, потому что эти синтетические лица невероятно эффективны для гнусных целей, например, для таких вещей, как порно из мести или мошенничество”, - говорит Софи Найтингейл из Ланкастерского университета в Великобритании.
Программы искусственного интеллекта, называемые генеративными состязательными сетями, или GAN, могут научиться создавать поддельные изображения, которые все меньше и меньше отличаются от реальных изображений, противопоставляя две нейронные сети друг другу.
Найтингейл и ее коллега Хани Фарид из Калифорнийского университета в Беркли попросили 315 участников, набранных на сайте краудсорсинга, сказать, могут ли они отличить подборку из 400 поддельных фотографий от 400 фотографий реальных людей. Каждый набор состоял из 100 человек из каждой из четырех этнических групп: белой, черной, восточноазиатской и южноазиатской.
У этой группы показатель точности составлял 48,2 процента – немного хуже, чем вероятность. Вторая группа из 219 участников прошла обучение распознаванию лиц, созданных компьютером. У этой группы показатель точности составлял 59 процентов, но эта разница незначительна, говорит Найтингейл.
Людям труднее всего было отличить настоящие лица от поддельных, возможно, потому, что программное обеспечение синтеза было обучено непропорционально большему количеству белых лиц.
Исследователи также попросили отдельную группу из 223 участников оценить выбор одних и тех же лиц по уровню надежности по шкале от 1 до 7. Они оценили фальшивые лица как в среднем на 8% более надежные, чем настоящие, – небольшая, но существенная разница, по словам Найтингейла. Это может быть связано с тем, что синтетические лица больше похожи на “обычные” человеческие лица, и люди с большей вероятностью доверяют типичным лицам, говорит она.
Если посмотреть на крайности, то четыре лица, признанные наиболее ненадежными, были настоящими, в то время как три наиболее заслуживающих доверия лица были фальшивыми.
“Нам нужны более строгие этические принципы и более правовые рамки, потому что неизбежно найдутся люди, которые захотят использовать [эти изображения] для причинения вреда, и это вызывает беспокойство”, - говорит Найтингейл.
Чтобы снизить эти риски, разработчики могут добавлять водяные знаки к своим изображениям, чтобы помечать их как поддельные, говорит она. “На мой взгляд, это достаточно плохо. Все будет только хуже, если мы не сделаем что-нибудь, чтобы остановить это”.