Эксперты «Лаборатории Касперского» обнародовали данные, которые свидетельствуют о наступлении новой, тревожной реальности в цифровом мире. Речь идет о том, что услуги по созданию дипфейков — реалистичных подделок видео и аудио, созданных с помощью искусственного интеллекта, — вышли из узких хакерских кругов и стали массовым товаром в даркнете.
Конечно, они существовали и раньше, но что особенно настораживает — так это предложения по генерации такого контента в режиме реального времени и по низкой цене. Представьте себе: во время видеозвонка лицо собеседника может быть заменено на чьё угодно, а его голос может говорить то, что он никогда не произносил. Стоимость этих услуг стала шокирующе низкой, начинается она всего с 30 долларов за поддельный аудиофайл и 50 долларов за видео. Эта демократизация технологии открывает ящик Пандоры, создавая угрозы в масштабах, которые мы только начинаем осознавать.
Авторы сообщений, по их словам, также готовы предоставить программы, которые позволяют синхронизировать губы человека на видео с любым текстом, даже на иностранных языках, и инструменты для клонирования голоса, изменения тона и тембра в соответствии с желаемой эмоцией. Однако эксперты по кибербезопасности не исключают, что значительная часть опубликованных объявлений — это скам, цель которого — выманить деньги заинтересовавшихся покупателей.
Сферы применения дипфейков уже давно вышли за рамки безобидных мемов и стали инструментом для серьезных злоупотреблений. Мошенники используют их для целевых атак на бизнес, имитируя голос руководителя с приказом о срочном денежном переводе. Политические активисты и пропагандисты видят в них возможность создавать компрометирующие ролики или вбрасывать дезинформацию от имени публичных лиц.
Более того, одна из самых болезненных сфер применения оказалась куда ближе к нам — в школьной среде. Технология стала настолько доступной, что даже школьники теперь могут бесплатно создавать примитивные (пока примитивные!) дипфейки про своих одноклассников. Эти поддельные видео, часто компрометирующего или унизительного характера, затем распространяются в чатах и социальных сетях, становясь мощным орудием кибербуллинга. Жертва такой травли оказывается в крайне уязвимом положении, потому что доказать подлинность записи бывает сложно, а опровергать ложь — унизительно и мучительно.
Здесь мы сталкиваемся с фундаментальной проблемой: защититься от создания дипфейка с вашим изображением или голосом практически невозможно. В мире, где каждый оставляет тысячи своих фотографий и видео в социальных сетях, любой желающий может найти достаточное количество материала для обучения нейросети. Это означает, что нам всем пора привыкать к существованию в новой парадигме, где видеоролики и аудиозаписи утратили статус неоспоримого доказательства.
Мы вступаем в эру, когда любой компромат можно будет объявить дипфейком, а любое реальное событие — поставить под сомнение. Это кардинально меняет правила игры в публичном поле, юриспруденции и личных отношениях. Видеозапись по-прежнему сохраняет свою ценность для систем обеспечения безопасности, где источник и обстоятельства съемки заведомо известны и контролируемы: видео с камер наблюдения, попавшее следователю, дипфейком в суде не назовёшь (если, конечно, это настоящее видео, а не заботливо подброшенное). Но когда речь заходит о манипуляции общественным мнением или о публичном обвинении, она становится хрупким и ненадежным аргументом.
Вопрос о том, как теперь отличать правду от лжи и кому можно доверять, становится центральным для современного человека. Простых ответов здесь нет. Эксперты советуют развивать цифровую гигиену и критическое мышление. Следует обращать внимание на мелкие детали в подозрительных видео: неестественные тени, странное моргание, рассинхрон между движением губ и звуком, артефакты вокруг лица. Но одних технических признаков мало, а технологии совершенствуются и этих дефектов скоро не будет.
Главным инструментом верификации в наше время становится контекст. Необходимо задавать вопросы: кто и с какой целью опубликовал эту запись? Есть ли независимые источники, подтверждающие это событие? Соответствует ли поведение человека на видео его привычкам и характеру? Прозрачность источника информации становится новой валютой доверия. Возможно, эта новая реальность, как это ни парадоксально, заставит нас быть более вдумчивыми потребителями информации, меньше доверять слепой вере в видеодоказательства и больше полагаться на логику, перекрёстные проверки и репутацию источников. Это сложный и болезненный переход, но вы слышите, мистер Андерсон? Это звук неизбежности.