Злоумышленники все чаще используют технологии искусственного интеллекта для генерации реалистичных изображений и видео, известных как дипфейки. Банк России предупреждает, что аферисты могут использовать фото, видео, а также аудиозаписи, доступ к которым открывается после взлома ими аккаунтов в соцсетях и мессенджерах.
Сгенерировав образ человека, мошенники отправляют его виртуальную копию его же знакомым, друзьям или родственникам. В небольшом ролике или аудиосообщении созданная с помощью ИИ "копия" рассказывает о какой-либо проблеме (например, о внезапной болезни, случившемся дорожно-транспортном происшествии или увольнении). Затем "аватар" человека просит перевести сумму денег (она может быть и небольшой) на какой-то конкретный счет. А в отдельных случаях злоумышленники создают дипфейки работодателей или, например, известных людей, работающих в той же сфере, что и их жертва.
Ранее использование дипфейков было слишком дорогостоящим занятием, и такие случаи были редкими. Один из первых подобных инцидентов случился в 2019 году, когда директор британской энергетической компании сделал денежный перевод в размере $243 тысячи по просьбе, якобы исходившей от его руководителя. Злоумышленникам удалось создать дипфейк, который с такой точностью сымитировал голос шефа, что жертва даже не сомневалась в подлинности поручения.
Сегодня технологии для создания дипфейковых видео и аудио стали более доступными, и случаи мошенничества с их использованием участились.
В начале 2024 года в российском интернете появился ролик, где женщина отвечает на звонок в мессенджере и слышит голос своего сына, который просит перевести ему 1000 рублей на подарок другу. При этом настоящий сын в этот момент находился рядом с ней.
Как отличить дипфейк от реального человека?
Если вам поступил звонок по видеосвязи, важно сразу определить, кого вы видите — настоящего человека или дипфейк-копию. В первую очередь попросите собеседника встать или сесть лицом к свету, чтобы была видна его мимика. Как бы странно это не прозвучало, обратите внимание на его зубы. Зачастую у людей во время разговора они видны, тогда как в дипфейках это не всегда так. Если качество видео плохое, вы можете попросить собеседника повернуть голову на 90 градусов — при этом лицо дипфейка может "поплыть".
Также можно попросить собеседника сделать какие-либо физические действия, например, отпить из кружки, поправить прическу или надеть очки. В таких случаях дипфейк часто начинает сбоить, и вы это заметите.
Следующие признаки тоже могут указывать на дипфейк:
- Нечеткое или смазанное изображение лица.
- Отсутствие естественной мимики при разговоре. Свободные инструменты для создания дипфейков часто не могут корректно отобразить движения лица.
- Неестественные движения лица. Здесь все внимание на моргание глаз, движения бровей и губ.
- В дипфейках обычно заменяют лишь лицо, поэтому могут быть заметны различия в тенях, освещении и оттенке кожи.
Как распознать дипфейк в аудио?
Распознать дипфейк в аудио-звонке сложнее, но возможно. Вслушайтесь в интонацию, проанализируйте, используются ли какие-либо характерные слов. Монотонность голоса и отсутствие каких-либо эмоций могут быть признаками «копии». Однако такие признаки проще заметить в длинных сообщениях, тогда как в коротких фразах их распознать гораздо труднее.
Как защититься от дипфейков?
Прежде чем начинать общение с человеком удалённо, а тем более предпринимать какие-либо действия, убедитесь, что это действительно тот, за кого он себя выдаёт. Перезвоните ему по телефону, чтобы удостовериться, что с вами в мессенджере общается именно он. Спрашивайте такие вещи, ответы на которые известны лишь этому человеку. Предпочтительнее всего связаться через обычный телефонный звонок. Сообщения в мессенджерах или соцсетях, а также простые SMS далеко не всегда надёжны, так как злоумышленники могут создать фейковые страницы, аккаунты и написать с незнакомого номера.
Соблюдая эти меры предосторожности, вы сможете защитить себя от мошенничества с использованием дипфейков.