Лица, сгенерированные искусственным интеллектом, вызывают больше доверия, чем настоящие лица.
Люди не могут отличить лицо, сгенерированное искусственным интеллектом с помощью StyleGAN2, от реального лица, - говорят исследователи, которые призывают к мерам безопасности для предотвращения «Дипфейков». Синтезированные искусственным интеллектом текст, аудио, изображения и видео уже использовались для так называемого «порномести», мошенничества и пропаганды.
Доктор Софи Найтингейл из Ланкастерского университета и профессор Хани Фарид из Калифорнийского университета в Беркли провели эксперименты, в ходе которых участников просили отличить лица, синтезированные с помощью StyleGAN2, от реальных лиц и оценить какой уровень доверия вызывали лица.
Результаты показали, что искусственно сгенерированные лица не только очень фотореалистичны и почти неотличимы от реальных лиц, но и даже считаются более достоверными.
«Наша оценка фотореализма лиц, синтезированных искусственным интеллектом, показывает, что механизмы синтеза прошли через «Зловещую долину» и способны создавать лица, которые неотличимы и заслуживают большего доверия, чем настоящие лица».
Исследователи предупреждают о последствиях неспособности людей идентифицировать изображения, созданные ИИ: «Возможно, наиболее пагубным является то, что в цифровом мире, где любое изображение или видео может быть подделано, подлинность любой неудобной или нежелательной записи может быть поставлена под сомнение».
В первом эксперименте 315 участников классифицировали 128 лиц, взятых из набора из 800, как настоящие или синтезированные. Их точность составила 48%, что близко к 50%.
Во втором эксперименте 219 новых участников прошли обучение о том, как классифицировать лица. Они классифицировали 128 лиц, взятых из того же набора из 800 лиц, что и в первом эксперименте, но, несмотря на их обучение, уровень точности повысился только до 59%.
Исследователи решили выяснить, может ли восприятие достоверности помочь людям идентифицировать искусственные изображения.
«Лица представляют собой богатый источник информации с экспозицией всего в миллисекундах, достаточной для того, чтобы сделать неявные выводы об индивидуальных чертах, таких как надежность. Мы задались вопросом, активируют ли синтетические лица те же суждения о надежности. из синтетических лиц».
В третьем исследовании 223 участникам было предложено оценить надежность 128 лиц, взятых из того же набора из 800 лиц, по шкале от 1 (очень ненадежно) до 7 (очень достоверно). Средняя оценка искусственных лиц была на 7,7% БОЛЬШЕ достоверной, чем средняя оценка реальных лиц, что является статистически значимым.
Выводы:
- Искусственно сгенерированные лица вызывают больше доверия, чем настоящие лица.
- Чернокожие лица были оценены как более заслуживающие доверия, чем лица из Южной Азии, но в остальном это не повлияло на расу.
- Женщины были оценены как значительно более надежные, чем мужчины.
- Улыбающееся лицо с большей вероятностью будет оценено как заслуживающее доверия, но 65,5% настоящих лиц и 58,8% искусственных лиц улыбаются, поэтому одно только выражение лица не может объяснить, почему синтетические лица оцениваются как более надежные.
Исследователи предполагают, что синтезированные лица могут считаться более заслуживающими доверия, потому что они напоминают обычные лица, которые сами по себе считаются более заслуживающими доверия. Чтобы защитить публику от «дипфейков», они также предложили рекомендации по созданию и распространению синтезированных изображений.
«Защитные меры могут включать, например, включение надежных водяных знаков в сети синтеза изображений и видео, которые обеспечили бы последующий механизм для надежной идентификации.
Поскольку именно демократизация доступа к этой мощной технологии представляет собой наиболее серьезную угрозу, мы также поощрение пересмотра подхода, часто основанного на невмешательстве к общественности, и неограниченного выпуска кода для включения в любое приложение.
В этот поворотный момент, как и в других областях науки и техники, мы призываем сообщество графики и машинного зрения развивать руководящие принципы создания и распространения технологий синтетических медиа, которые включают этические принципы для исследователей, издателей и распространителей медиа».