Мошенники используют технологию для воздействия на уязвимых людей, переживающих утрату, сообщили эксперты организации
МОСКВА, 2 октября. /ТАСС/. Мошенники с помощью нейросетей создают цифровые копии умерших и используют их в своих целях. Об этом сообщили ТАСС в Центре цифровой экспертизы Роскачества.
"Технология цифрового "воскрешения" основана на нейросетевых алгоритмах, способных создавать интерактивные цифровые копии умерших людей. <...> Изначально подобные разработки создавались в терапевтических целях, чтобы помочь людям в преодолении тяжелой утраты через символическое "общение" с цифровой проекцией умершего. Однако, как это часто происходит с перспективными технологиями, механизм быстро привлек внимание мошенников", - рассказали в организации.
Как отметили эксперты, мошенники используют технологию для воздействия на уязвимых людей, переживающих утрату. Заинтересованные компании или киберпреступники могут использовать эти симуляторы для скрытой рекламы или для манипуляций пользователями, внушая, что бот - на самом деле умерший родственник. Цифровые копии могут убеждать родственников в необходимости "финансовой помощи", рекомендовать покупку определенных товаров или услуг, сообщили в Роскачестве.
При этом использовать технологию для финансовых махинаций в банках или микрокредитных организациях злоумышленникам не удастся, отметили эксперты. Даже обученный на реальных данных человека нейробот не сможет пройти биометрическую верификацию и подтвердить согласие на получение микрозайма. Сервисов, которые позволили бы провести такую операцию с использованием биометрической верификации в России не существует. Помимо прочего, любой сценарий применения биометрии предусматривает многофакторную защиту. Так, для удаленного открытия банковского счета нужно авторизоваться через "Госуслуги", посмотреть в камеру и произнести определенные последовательности цифр. Заранее подготовленные фото, видео или дипфейк также не помогут мошенникам. Распознать подделку помогают специальные алгоритмы "лайвнесс", с помощью которых удается отличить реального пользователя от фейкового.
Аккаунты умерших людей также могут стать инструментом для фишинговой рассылки от имени реальных людей, поскольку сообщения от аккаунта с "живым" профилем в соцсетях и истории переписок в мессенджерах не вызовут подозрений у потенциальных жертв. Кроме того, создание ботнетов из цифровых копий умерших людей обеспечит злоумышленникам возможность проводить масштабные DDoS-атаки или организовывать массовое распространение нежелательного контента.
"Когда мошенники используют дипфейк живого человека, у жертвы всегда есть возможность проверить подлинность сообщения, например, связавшись альтернативным способом. Однако с цифровой копией умершего такая проверка невозможна в принципе. Это создает идеальные условия для преступников, ведь цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей", - отметил заместитель руководителя Центра цифровой экспертизы Роскачества Георгий Тарачев.
В новость внесена правка (16:28 мск) - передается с уточнением в 4-м абзаце в связи с корректировкой данных Роскачеством.