Еще несколько лет назад создание убедительной подделки фото или видео требовало умения и кропотливого труда. Но бурное развитие технологий искусственного интеллекта кардинально изменило ситуацию. Современные нейросети могут генерировать реалистичные изображения людей, которых не существует в природе, или подделывать видеоролики с использованием лица настоящего человека.
Одними из первых такие технологии представили исследователи из университета Вашингтона. Их нейросеть GAN (generative adversarial network) умела создавать фотореалистичные изображения человеческих лиц, неотличимые от настоящих фотографий. При этом на вход подавались лишь случайные точки!
Еще дальше пошли разработчики приложения Reface - оно позволяет подставлять лицо пользователя в видеоролики с участием знаменитостей. Возможно, вы видели ролик, где лицо Илона Маска накладывается на танцующего человека. Это и есть работа ИИ.
Самые современные нейросети, такие как DALL-E 2, умеют создавать реалистичные изображения на основе текстового описания. Вы можете написать "кот в космосе, играет на гитаре" - и ИИ нарисует это! Такая технология открывает безграничные возможности для генерации фейковых, но визуально убедительных изображений.
Конечно, подобные инструменты можно использовать и во благо. Например, в кинематографе для создания спецэффектов или реалистичных виртуальных персонажей. Однако растущие возможности ИИ по созданию фейков вызывают и опасения. Ведь теперь любой желающий может сфабриковать компромат из реального видео или создать конвинсивный визуальный обман за считанные минуты. Эксперты призывают развивать технологии распознавания подделок, чтобы общество было готово к новой реальности.