Представьте ситуацию: вы получаете сообщение от руководителя вашей компании, который просит перевести крупную сумму денег. Видео выглядит абсолютно правдоподобно – он говорит с вашим знакомым голосом, его мимика и выражения лица выглядят естественно, даже родинка на щеке на месте. Через какое-то время оказывается, что это было не настоящие видео, а дипфейк – подделка, созданная с помощью нейросетей. Это не фантастика, а реальность, которую мы уже наблюдаем. Сделать подобное можно буквально за 15 минут с помощью современных технологий.
Подпишись на наш телеграм, чтобы быть в курсе событий: https://t.me/astralot_ai
Дипфейки представляют собой новый уровень мошенничества. Теперь преступники могут взламывать системы банковской аутентификации, используя синтезированные голоса руководителей. К тому же у искусства появились новые границы – мертвые актеры могут “возродиться” на экране, а создание дубляжей сокращается с месяцев до считанных часов. Наконец, маркетологи могут задействовать цифровых двойников, которые рекламируют продукты на всех языках мира одновременно.
Как создаются дипфейки?
Но как же создаются такие реалистичные фальшивки? Основой технологии дипфейков являются генеративные состязательные сети (GAN). Эти нейросети работают по принципу “кошки-мышки”: одна нейросеть создаёт подделки, а другая пытается их распознать. Процесс обучения продолжается, порой, до 10 000 циклов, пока подделка не становится практически неразличимой от оригинала. Для создания дипфейка необходимо минимум 15 минут видео с целью, из которой будет составлен цифровой двойник. Нейросеть тщательно анализирует 142 параметра мимики, от дрожи век до тончайших движений губ, добавляя физиологически точные эффекты.
Среди известных случаев использования дипфейков можно упомянуть фейковое видео Нэнси Пелоси, которое вызвало политический скандал в США, а также видео с Джоном Сноу из “Игры престолов”, который неожиданно “появился” в политической рекламе. Всё это ставит нас перед важным вопросом: как же справиться с этой технологией в различных сферах жизни?
Применение в различных сферах
В киноиндустрии дипфейки могут значительно снизить затраты на дубляж, но вместе с тем возникнут юридические конфликты с наследниками актеров. В образовании можно реализовать интерактивные лекции с историческими личностями, однако есть риск фальсификации научных фактов. В медицине нейросети помогут в тренировке хирургов на синтетических пациентах, но могут создать псевдоэкспертов, что опасно для пациентов.
Для защиты бизнеса от фейков можно использовать различные методы: внедрение водяных знаков, которые будут заметны только нейросетям, многофакторная аутентификация с использованием секретных жестов или слов в корпоративных видеочатах, а также обучение сотрудников на квестах по выявлению подделок в видео.
Что нас ждет в будущем? К 2025 году эксперты предсказывают взрывной рост дипфейков. Уже сейчас 67% всех подделок за прошлый год были созданы всего за первые три месяца нового года. Технология движется к “демократизации зла”, когда доступ к созданию профессиональных фейков будет у каждого, даже у школьников, через облачные сервисы.
Этические вопросы использования дипфейков становятся всё более актуальными. Законодатели все еще ведут споры о том, как регулировать эти технологии. Маркетологам стоит обратить внимание на опыт Голливуда и создать этические кодексы для ИИ. Например, в нашей студии мы ввели правило, согласно которому каждый синтетический персонаж получит цифровой паспорт с данными о его создателе.
Чтобы понять больше о технологии, можно обратиться к различным источникам информации, таким как исследования по национальной безопасности и молодым тенденциям в области технологий, инструкции по работе с генеративным ИИ, а также к техническим анализам методов обнаружения фальшивок.
Когда я начинал заниматься компьютерами в 90-х, сложно было представить, что мы с вами доживем до времени, когда реальность станет привычной фальшивкой. Но как тогда, так и сейчас, важно не бояться технологий, а учиться ими управлять. Это необходимо, чтобы не стать жертвой своего собственного цифрового двойника.
Наш телеграмм-канал: t.me/astralot_ai