Злоумышленники начали с помощью использования нейросетей создавать цифровые копии умерших, чтобы использовать их для своих целей. Об этом в четверг, 2 октября, рассказали в Центре цифровой экспертизы Роскачества.
По словам экспертов, основанная на нейросетевых алгоритмах технология создания интерактивных цифровых копий умерших первоначально была придумана для терапевтических целей, чтобы помочь понесшим утрату людям преодолеть ее путем символического «общения» с цифровой проекцией покойного.
«Однако, как это часто происходит с перспективными технологиями, механизм быстро привлек внимание мошенников», — рассказали в Роскачестве в беседе с ТАСС.
В организации уточнили, что преступники используют эту технологию, чтобы воздействовать на переживающих утрату уязвимых людей в качестве симулятора для скрытой рекламы или для манипуляций пользователями. При этом потенциальным жертвам внушается, что бот является их умершим родственником. Он убеждает людей оказать «финансовую помощь» или рекомендует покупку определенных товаров или услуг.
Помимо этого, обученный на реальных данных человека нейробот способен проходить биометрическую верификацию в некоторых системах, подтверждая с помощью голоса или онлайн-присутствием согласие на получение микрозайма, и даже подписывать электронный документ. Кибератаки с дипфейк-видео становятся массовыми, и в РФ второй год подряд происходят случаи мошенничества, когда преступники с помощью нейросетей крадут деньги, представляясь умершими людьми.
Инструментом для фишинговой рассылки от имени реальных людей также могут быть аккаунты умерших, так как сообщения от аккаунта с «живым» профилем в соцсетях и истории переписок в мессенджерах подозрений у других пользователей не вызовут. Также создание цифровых копий умерших дает мошенникам возможность проводить масштабные DDoS-атаки или массово распространять нежелательный контент.
«Когда мошенники используют дипфейк живого человека, у жертвы всегда есть возможность проверить подлинность сообщения, например, связавшись альтернативным способом. Однако с цифровой копией умершего такая проверка невозможна в принципе. Это создает идеальные условия для преступников, ведь цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей», — рассказал замглавы Центра цифровой экспертизы Роскачества Георгий Тарачев.
Накануне в МВД рассказали, что мошенники придумали схему обмана россиян, при которой они убеждают их подтвердить номер паспорта голосом. Злоумышленники используют это в качестве первой атаки, чтобы достигнуть психологического эффекта, при котором удастся выбить человека из равновесия и заставить его запаниковать.
За день да этого в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ сообщили, что мошенники похищают деньги подростков, предлагая им обналичить средства с «Пушкинской карты». Найдя доверчивых несовершеннолетних в социальных сетях, они предлагают сообщить им номер карты, срок её действия и код на обратной стороне. После этого преступники просят подростка сообщить им код подтверждения и, получив его, списывают все средства с карты.