ДИПФЕЙК
Дипфейк — методика синтеза изображения или голоса или одновременно, основанная на искусственном интеллекте (ИИ) и обучаемых нейросетях (ОНС).
Проще говоря:
- дипфейк — это статическая (фото, графика, рисунок или картина) или динамическая (ролик или фильм или трек) фальшивка.
ДИПФЕЙК. Этимология
Слово "дипфейк" — производно-составное от слова "фейк". Транслитерация/транскрибация английского акронима "deepfake", который образован соединением понятий "deep learning" (в переводе — "глубинное обучение") и "fake" (в переводе — "подделка").
Второе — "фейк" — я подробно разобрал в статье:
Дипфейки как фальшивки манипулируют со статическим или динамическим контентом. Статический контент — это прежде всего фотографии.
Продукты динамических фальшивок уровня дипфейк сегодня можно разделить на 3 чёткие группы:
- видео — присутствует замена лица или полностью фигуры одного человека на другого;
- аудио — в звуковой дорожке заменяется голос фальсифицируемой персоны;
- видео + аудио — замена лица и голоса одновременно.
- Все вышеуказанные манипуляции осуществляются с помощью специальных программ на базе ИИ/ОНС. Чем сложнее задача — тем больше ступеней обработки/подготовки. Подробнее я рассказывать не буду, чтобы не плодить новых мошенников, не давать им базовый толчок знаний.
В наши дни технологии создания дипфейков, к огромному сожалению, очень хорошо освоили мошенники. Действуя как инвесторы, они на стороне сил зла набрали и продолжают набирать в свои команды тех, кому пофиг на происхождение денег, из которых они получают оплату за свою "работу". Или такие программисты, дизайнеры, монтажёры, звукоинженеры, создатели спецэффектов и прочие профессиональные манипуляторы звуком и изображением инициируют мошеннические схемы сами, озлобившись на обычных работодателей, например, из-за низкой зарплаты или недооценённости, или на соседа из-за того, что он сильно шумит или попробовал увести жену и т. д. и т. п.
Если эти технологии применяются в ущерб другим, доводят до смерти даже — они опасны для общества однозначно.
В моей бизнес-практике был такой случай, увы. Когда сотрудник отдела логистики потерял свою больную мать, чьё сердце не выдержало раскрытия информации, что она отдала сто тысяч рублей (в то время это было довольно большие деньги) мошенникам якобы для спасения сына как виновника тяжёлого ДТП. А он в моей компании водил белый фордовский грузовой фургон. Выглядело всё в той манипуляции довольно правдоподобно. Тот дипфейк, — тогда, кстати, мы их ещё не называли дипфейками, — был реализован через связь по мобильным телефонам, но уже в те времена голоса подделывались классно, правда более примитивными способами: через имитацию или частотный питч.
Давайте разберём все 3 варианта динамических дипфейков на уровне понимания с позиции потенциальных жертв мошенников. Тестом дальше я хотел бы этой статьёй помочь именно тем, кого мошенники используют (пытаются использовать) через игру на доверии, на доверчивости.
Технология дипфейка может быть использована для:
- точечного воздействия (на конкретного человека);
- группового воздействия (например, поддельные новости).
Но как бы мы ни классифицировали дипфейки — по сути это всегда фальсификация, подделка, обман, а иногда и дискредитация. Т. к. дипфейк как приём используют для замены и/или внедрения определённых элементов изображения и/или речи для создания желаемого образа.
Иными словами, при рассматривании/прослушивании дипфейка вы видите/слышите не настоящее изображение и/или звук, снятые/записанные как есть, а изменённые так, как этого захотел создатель или заказчик созданного, и так, чтобы получатель/зритель сего изображения и/или звука не понял обмана/не догадался о нём.
Конечно, можно дипфейки, созданные в шутку, называть авангардной вариацией шаржа. Но, по-моему, это какая-то странная "милота", особенно если она создана без согласия, а как некий сюрприз. И особенно болезненны такие дипфейки, когда вроде бы такие шутливые, они демонстрируются широкой аудитории. Например, выводом на экран на каком-нибудь торжестве.
Синтез изображения (видео- и фото дипфейки)
Методика синтеза изображения используется для соединения (сложения слоями) существующих изображений и видео с добавленными к ним. Когда слой замены накладывается по альфа-каналу сверху — это называется наложением.
В подавляющем большинстве случаев для создания таких изображений используют специально заточенные нейросети, одна часть алгоритма которых учится на реальных фотографиях (или видео) определённого объекта и генерирует изображение, буквально соревнуясь с другой половиной алгоритма, пока последняя не начнёт сама путать копию с оригиналом.
Для фиксации в истории мира.
- Первые публично известные работающие методы выявления движения и превращения в целевое видео, которое похоже на целевой образ, были представлены в начале 2-й половины 2010-х годов. Тогда на рынке ПО впервые появились программы, генерирующие поддельные мимические изображения в режиме реального времени в исходном плоскостном (2D) видео.
- Первые публично известные работающие методы как вызов дипфейкам появились на рынке ПО в самом начале 2020-х годов. Эти новые разработки позволяли определить вмешательство в видео по триггеру "фейк — не фейк" и хоть как-то с фейками и дипфейками бороться.
Синтез голоса (голосовые дипфейки)
Голос человека подделывается через использование модифицированного алгоритма преобразования текста в речь и через компьютерную обработку аудиозаписей речи этого человека. Появились уже технологии, когда достаточно сэмпла в 15-20 секунд.
Так создаются голосовые дипфейки. С помощью этой технологии возможно адаптировать голоса актёров, создавать естественную речь для людей, утративших возможность говорить, начитывать аудиокниги заданными голосами, подстраивать речь под определённый акцент, создавать реалистичные видеоаватары (личностно-голосовые ассистенты). Ну и для злоумышленниками используют голосовые дипфейки — в обмане, дискредитации или дезинформации.
Дипфейки в искусстве и развлечениях
Не претендую на полный охват, просто перечислю знакомые мне варианты использования:
- Дипфейк-видеоролики распространены на популярных видеохостингах, которые загружаются контентом от большого количества независимых и частных творцов. Например, это YouTube, Vimeo и др.
- Дипфейк как технология используется в музейном пространстве. Это когда, к примеру, используются сгенерированные с помощью ИИ/ОНС прототипы авторов и репродукции их творений, и выстраиваются цепочки общения с посетителями музея, а также производство комбинированных изображений типа "селфи с автором" или "селфи на фоне картины автора".
- Дипфейк-озвучание (дубляж), с помощью технологий голосовых дипфейков. Так адаптируются голоса актёров и актрис при локализации фильмов и сериалов на ту или иную территорию. Выбор языков уже поражает.
- Новостные дипфейки — иногда используется как развлечение (один самых первых известных пионеров а-ля дипфейковых новостей в кино — Орсон Уэллс и его фильм 1941-го года — "Гражданин Кейн"), но чаще спецслужбы используют их для вредоносных обманов.
- Дипфейк в аудиовидеопроизводстве существует даже как субжанр: дипфейк-порнография (большинством сайтов запрещён, существует в даркнете).
Дипфейк. Приёмы/примеры обмана/дискредитации
Пока в этой главе я приведу пару свежих примеров, свежестью показав насколько актуальна проблема.
Со временем добавлю другие.
Следите за анонсами канала ПРИГОДИТСЯ и обновлением этой статьи.
Примеры, который я представляю, были хорошо освещены в новостных лентах как инциденты. Повторю ключевые моменты из них, на которые следует обратить внимание:
Инцидент №1 (произошел 16.08.2024 г.)
- атакована известная личность — Ирина Хакамада;
- атакована через соцсеть;
- обращение последовало от лица ее подруги;
- суть обращения — прошение взаймы денег;
- сумма потери - 400 тыс. рублей.
Вопросы к потерпевшей:
- Почему Хакамада согласилась и перевела на указанный телефон средства. (счет, как потом выяснилось, принадлежал некоему мужчине)?
- Почему Хакамада позвонить подруге только на следующий день?
Инцидент №2 (произошел 17.08.2024 г.)
- атакована известная личность — Зивар Гусейнова, профессор Санкт-Петербургской государственной консерватории им. Н. А. Римского-Корсакова;
- атакована звонками на её мобильный телефон;
- обращение последовало от группы лиц, представившихся сотрудниками ФСБ и военной прокуратуры;
- суть обращения — защитить деньги потерпевшей на вкладе и додавить сверху, для укрепления защиты;
- сумма потери - 4,9 млн. рублей.
Вопросы к потерпевшей: - Почему Гусейнова согласилась и передала курьеру (?) наличными (?) свои деньги для их перевода на безопасный счет?
- Почему не позвонила в органы или адвокату?
- Почему Гусейнова ПОВТОРНО согласилась, переведя дополнительные средства им же (туда же) наличными через банкомат?
Только плиз не злорадствуйте, а посочувствуйте.
Это массовое мошенничество в наши дни, увы. Посмотрите на разницу между датами. Её практически нет.
Дипфейк прилетел или прилетит. Что делать?
Конечно, можно уединиться в тайге в избушке без связи и дорог.
И дипфейк вас не догонит, просто не доберётся до вас.
Но, становясь/став частью мира, тем более в составе более или менее знаменитой части народонаселения планеты Земля, нужно быть готовым к дипфейкам. Но не ждать их, а заниматься профилактикой. Если вы ею не занялись до сих пор, начните прямо сейчас.
Это, скажем, ещё условно хорошо, если дипфейк прибыл к вам лишь для мести. Хотя репутационные потери могут быть порой дороже всяких денег.
А если это чисто охота за вашими бумажными и цифровыми деньгами и золотовалютными запасами?
Антидипфейк-профилактика касается следующих задач:
- Усильте контроль за вашими исходными фото и видеоизображениями, подходите к их распространению очень бережно.
- Усильте контроль за любыми своими личными данными, особенно контактными, ограничивая потенциал доступа к вам по каналам связи.
- Учитесь распознавать фейки и дипфейки; если же попали под регулярный обстрел дипфейками или опасаетесь таких цунами в будущем, оснастите свои гаджеты и дивайсы специализированным ПО по распознаванию подделок звука, фото и видео.
- Тренируйте/закаляйте свою психику. В противодействии мошенникам важно иметь холодный ум и трезвую голову. Помните главное: любые мошенники ВСЕГДА играют на очень коротких дедлайнах, отводя вам на решение в их пользу неразумно мизерные сроки. Это должно вызывать у вас если не подозрение, то хотя бы желание сделать дабл чек.
- Когда в схему общения с вами мошенник, обращающийся к вам ВСЕГДА ПО ЕГО ИНИЦИАТИВЕ, вовлекает конкретную организацию или третье лицо (представляется от их имени или требует что-то ваше представить туда), ОБЯЗАТЕЛЬНО делайте тот самый дабл-чек. Позвоните этому человеку или в эту организацию сами и проверьте факты. Даже если вам угрожают арестом и требуют откуп, даже если вам предлагают откупиться за друга/подругу - это всегда нарушение закона и, так поступая, вы втягиваете себя в воронку противоправных действий. Просто в таких ситуациях помните: законы и административные нормы РФ НИКОГДА не дают на ответные меры (например, на апелляцию, на ходатайство, на запрос справки и т. д.) время в размере минут и часов. Это, как правило сутки в количестве от 7 до 30 дней, в среднем. А если вам сказали что ваш друг/подруга попали в смертельно-опасное ДТП ("вот, посмотрите, на видео, - это же он/она!"), как вы можете помочь деньгами этому человеку? Оплатить ему скорую, когда счёт действительно идёт на секунды и минуты? А ели он уже доставлен в больницу — не проще ли дозвониться в больницу или: в конце концов, туда сгонять (дозвониться не всегда получается, на это тоже мошенники рассчитывают)?
Да, ситуация распространённого беззакония/широкой трактовки действующих законов в нынешней РФ является колоссальной проблемой и порождает тотальный испуг даже у добропорядочных граждан, которым вроде бы и бояться нечего. Этим пользуются "дипфейкеры" хреновы. Но, в конце концов, вам-то что: арестуют вас за взятку должностному лицу (за откуп) или за то что вы нарушили? По-любому понадобится адвокат. Лучше потом заплатите ему.
---***---
#дипфейк #фейк #симуляция #фикция #мошенничество #новыезнания #эксперт #экспертиза #статья #книга #консультация #консалтинг #олеглубски #oleglubske #нуженавтор #фильм #кино #анимация #подкаст #сценарий #гейминг #медиаиндустрия #продюсирование