После того, как технология создания дипфейков стала доступной для всех, она стала угрозой. Рассказываем, что это такое.
Что такое дипфейки
Слово deepfake появилось несколько лет назад. Оно объединяет в себе два понятия:
- глубокое обучение (deep learning), то есть обучение нейросетей
- и подделку (fake).
Технология заключается в синтезе ИИ человеческих изображений: алгоритм объединяет несколько фото, на которых человек изображен с разным выражением лица, и делает из них видео. При этом ИИ анализирует большое количество снимков и учится тому, как может выглядеть и двигаться конкретный человек.
Правозащитник Сэм Грегори рассказывает изданию Wired о том, что такое дипфейки
Как используют дипфейки
С распространением дипфейков появились случаи «дискредитации» публичных личностей, чьих изображений много в открытом доступе. Например, весной 2019 года в Сети было опубликовано дипфейк-видео со спикером палаты представителей конгресса США Нэнси Пелоси. Автор ролика с помощью ИИ изменил речь Пелоси так, что она плохо выговаривала слова, и пользователи, посмотревшие видео, посчитали, что политик пьяна. Ситуация вылилась в громкий скандал, и лишь спустя некоторое время было доказано, что речь Пелоси была сгенерирована ИИ.
Как будет развиваться технология
Этот дипфейк был сделан достаточно просто. Но есть и сложные алгоритмы. Они не просто меняют тембр голоса или замедляют речь, а генерируют такие видео, на которых человек делает то, чего никогда не совершал, или говорит то, чего никогда не говорил. Со временем дипфейки будут становиться все более реалистичными, пишет американское издание Forbes. Уже сейчас технология претендует на то, чтобы влиять на политику, а в дальнейшем такие видео и вовсе смогут стать угрозой национальной безопасности.
Читайте также:
В Венецию вернулись дельфины, и на этот раз ЭТО НЕ ФЕЙК
Водородное топливо сделает путешествия более экологичными
