Мошенничество с применением сгенерированных ИИ голосов и видеоизображений считается высшим техническим пилотажем у киберпреступников. Чем мощнее и «умнее» становятся нейросети, тем более достоверную копию человека получается создать. И, чем дальше, тем меньше исходной информации требуется для обучения роботов: часто достаточно одного сравнительно короткого видео- или аудиоролика и нейросеть построит относительно реалистичный образ.
В итоге, с потенциальной жертвой «разговаривает» виртуальный персонаж, которого, порой, сложно отличить от живого человека. Но все же можно – поговорим о том, как это сделать и не купиться на обман.
Почему мошенники используют ИИ?
Во-первых, потому, что могут. Любая технологическая новинка всегда рассматривается криминалом как новый способ обмануть людей и «заработать» деньги. Во-вторых, с достаточными вычислительными мощностями организовать бригаду роботов дешевле, а, главное, проще и безопаснее для организаторов преступной схемы, чем пресловутый мошеннический колл-центр. ИИ позволяет обрабатывать потенциальных жертв параллельно тысячами, так что шанс на успех статистически повышается. По мнению специалистов по безопасности в ближайшие несколько лет большинство телефонных разводов будет полностью автоматизировано - но, с другой стороны, и меры по вычислению злонамеренного применения ИИ тоже постоянно совершенствуются.
Хотите больше узнать о защите своих средств и информации?
Подпишитесь на наш канал в Дзене: https://dzen.ru/norvikbank
Типичные схемы применения дипфейков
На сегодня сложилось несколько популярных вариантов применения дипфейков. Они могут быть направлены как на массовую аудиторию, так и нацелены на то, чтобы обмануть конкретного человека в определенных обстоятельствах.
- «Начальник» - как правило, очень точно спланированная афера, нацеленная на сотрудников крупных фирм. Типичный вариант: звонок, аудио- или видеосообщение в мессенджерах, где коллега или руководитель просит что-то сделать, например перевести какую-то сумму на другой счет или поделиться какой-то важной информацией.
- «Звонок друга» - кто-то из списка друзей просит помочь деньгами или проголосовать за него в рамках какого-то конкурса. В действительности, на том конце мошенники, которые либо просто крадут деньги, либо, под видом регистрации на сайте выманивают важные личные данные. Еще один вариант – просьба о помощи в экстренной ситуации (попал в больницу/в полицию/вымогают деньги и т.п.). Чаще всего действуют с угнанного аккаунта в соцсетях или с украденного телефона.
- «Прекрасный незнакомец» - с вами желает завести отношения очаровательная девушка или прекрасный юноша, обещает любовь до гроба или хотя бы очень «горячие» фото и видео, а в процессе ненавязчиво просит помочь небольшой суммой или забронировать с предоплатой столик в ресторане для свидания.
- «Неслыханная щедрость» - используется поддельный образ какой-то известной публичной персоны, миллиардера или крупного политика. Например, миллиардер в ролике заявляет, что устал быть богатым и раздает свое состояние всем, кто инвестирует в один важный проект. Или президент прямым текстом говорит, что подписал указ о распределении дохода от природных богатств страны между ее гражданами, а чтобы получить свою долю, надо зарегистрироваться на официальном сайте и заплатить пошлину через определенный портал. Понятно, что все это – фальшивка, цель которой выманить у жертв деньги и важные данные.
Как узнать подделку?
Несмотря на все техническое совершенство, дипфейки не так уж сложно вычислить. Пока что техника не позволяет создавать 100% достоверные подделки, особенно если предстоит диалог и нужно быстро реагировать на поступающую информацию. Главное – быть внимательным и тщательно изучать картинку, манеру речи и голос вашего визави.
- Неестественная картинка – «Человек» на видео редко и неестественно движется или вообще не шевелится, странно моргает, движения губ не совпадают с речью. Еще один характерный признак – несовпадения цвета кожи на лице, на руках и на шее, пересветы или, наоборот, неестественные тени и странные цвета, плавающее изображение, артефакты (картинка вся «квадратиками») или в очень низком разрешении и т.д.
- «Говорящая голова» - Создатели дипфейков часто пытаются облегчить себе задачу, уменьшив объем работы по генерации поддельной картинки. Поэтому в кадре – одно только крупное лицо, как фото на паспорте, не видно даже шеи.
- «Тормоза» - Плохая связь может стать настоящим спасением для жуликов. Паузы и низкая скорость интернета позволяют быстро обдумать правильные ответы и сгенерировать нужный вариант, поэтому часто их внедряют намеренно, а общение начинает напоминать диалог по постоянно сбоящей радиосвязи.
- «Роботский голос» - Собеседник говорит монотонно, слишком короткими и простыми фразами, делает странные паузы между словами, неверно ставит ударения. Манера общения отличается от привычной, подделка пользуется словами и выражениями, которыми реальный человек не разговаривает.
- Проверка по параллельным каналам – Общаясь с «другом» или «коллегой» достаточно связаться с ним по какому-то параллельному каналу, которому вы доверяете и проверить, а с тем ли вы разговариваете.
- То, что знают только двое – У друзей и коллег всегда есть какие-то факты и воспоминания, известные только им. Простейший проверочный вопрос о чем-то, что может знать только этот человек, позволит установить истину.
Помните – дипфейки становятся все совершеннее, но в основе своей это все то же тысячелетнее мошенничество и лицедейство, только грим у преступных актеров становится все совершеннее. Поэтому внимательность, осторожность и здравый смысл еще долго будут мешать морочить людям голову и зарабатывать на чужом доверии.
Материал подготовлен командой ПАО Норвик Банк
Норвик Банк предлагает услуги физическим и юридическим лицам:
кредиты под залог недвижимости, вклады, расчетно-кассовое обслуживание, обмен валюты, дебетовые и кредитные карты. Читайте наш Блог на сайте, подписывайтесь на наш Телеграм-канал и будьте в курсе актуальных новостей!