В 2021 году в #TikTok появился ролик, где Том Круз показывает фокус с монеткой, Создатель аккаунта использовал технологию “deepfake”, чтобы показать "машинную" версию актера.
На подделку указывал эффект “жуткой долины”, который выражен в пустом взгляде "синтезированного" человека.
Последние исследования в области искусственного интеллекта (ИИ) настораживают. Люди легко влюбляются в лица, созданные машиной, и даже воспринимают их, как более "человечные", чем настоящие человеческие лица.
Синтетические лица для исследований не появляются рандомно, а разрабатываются в обратно-совместном взаимодействии между двумя нейронными сетями: Генератор производит эволюционирующую серию синтетических лиц, дискриминатор же обучается на реальных изображениях, а затем оценивает сгенерированный результат, сравнивая его с данными о реальных лицах.
Генератор начинает работу со случайными пикселями, получая обратную связь от дискриминатора, и постепенно создаёт все более реалистичные человеческие лица до тех пор, пока дискриминатор не сможет отличить синтетическое лицо от реального.
Нейронные сети обучаются на реальных изображениях представителей разных возрастов, рас и полов.
Когда реальных людей попросили отличить настоящие лица от поддельных, более половины реальных людей причислили к реальным синтезированные лица.
Инструменты, используемые для создания неподвижных изображений, общедоступны и каждый школьник умеет ими пользоваться.
Создать реалистичное видео с "синтезированным" человеческим лицом сложнее, но инструменты для этого уже попадают в руки простых людей: взять хотя бы маски и фильтры для коротких видео в Инстаграм и ТикТок.
Наверно, мы идём к тому, что deepfakes станут полностью необнаружимыми, а айтишники, под давлением политиков и бизнеса, могут отказаться от разработки механизмов выявления видеофейков.
Актуализацией инструментов "обнаружения” более всего обеспокоены правозащитники, которым так или иначе нужно защищать своих клиентов.
Решением может стать - обязательство нейросети "наносить" маркер на продукт синтеза, чтобы любой "живой" человек мог понимать, с кем он взаимодействует. Этот "водяной знак" не должен быть физическим воплощением, в лучших традициях ИИ, это должна быть часть кода цифровой "реплики".
Неизбежность цифровой эволюции, так же очевидна, как и угроза дипфейков, но и у этой угрозы есть потенциальные бенефициары.
Например, те, кто планирует использовать технология в кампаниях дезинформации для политической или иной выгоды, создание подложного видео для шантажа и любого другого мошенничества.
Разработка контрмер для выявления дипфейков превратилась в состязание между органами госбезопасности и киберпреступниками.
Если искусственный интеллект создаёт более человеческие лица, чем сама природа, может быть искусственный интеллект это новая природа человечества?