Фейковые аудио- и видеосообщения захлестнули современный мир. Кто угодно может сегодня выдать себя за представителей силовых ведомств, звезд эстрады и чиновников. К сожалению, создание дипфейков не ограничивается безобидными шутками. Зачастую нейросетями и искусственным интеллектом пользуются мошенники.
В Госдуме предложили ввести уголовную ответственность за совершение преступлений с использованием дипфейков. Наказывать планируют за кражу и клевету, которые осуществлялись при помощи технологий создания фальшивых изображений или аудио. Несмотря на то, что инициатива сегодня актуальна, с ее реализацией могут возникнуть сложности из-за сбора доказательств. Большая часть злоумышленников живет за границей, поэтому уголовная ответственность им не страшна. Об этом пишут «Известия»
Какое наказание планируют ввести за подделку
Злоумышленников, которые занимаются кражами и клеветой с использованием дипфейк-технологий, предложили отправлять за решетку. Новым признаком преступления планируют дополнить статьи «Клевета», «Мошенничество», «Кража», «Вымогательство», «Мошенничество в сфере компьютерной информации» и «Причинение имущественного ущерба путем обмана или злоупотребления доверием». За клевету, совершенную с использованием фальсифицированных фото-, видео- и аудиофайлов, имитирующих потерпевшего, будут грозить штраф в размере до 1,5 миллиона рублей либо лишение свободы на срок до двух лет, говорится в документе.
Мошенничество с использованием дипфейков повлечет более суровое наказание. В этом случае преступников будет ждать штраф до 400 тысяч рублей или полгода тюрьмы.
Фото: Pixel-Shot/Shutterstock/Fotodom
Авторы инициативы отметили, что благодаря развитию компьютерных технологий появляются новые возможности для создания данных, которые фабрикуют несуществующие события. Сегодня на вооружении у мошенников стоят нейросети и искусственный интеллект. Отличить дипфейки и цифровые маски от фото и видео реальных людей может только эксперт.
При этом изображение человека или его голос могут быть биометрическими персональными данными и применяться для идентификации.
Однако в отраслевом законодательстве использование технологий подмены личности не урегулировано. В кабмине рекомендовали доработать документ, чтобы не сложилось некорректной правоприменительной практики.
Дипфейки позволяют скрывать голос и внешность, исключая опознание обычными методами. Такие технологии могут быть использованы злоумышленниками для распространения цифрового контента, который противоречит нашему законодательству, рассказал «Ямал-Медиа» коммерческий директор IT компании АС Александр Логинов-Буре. По его словам, большое количество резонансных дел в последнее время наводит на мысль, что преступления с использованием фейков уже были и будут продолжаться с целью дестабилизации ситуации в стране.
Как создаются дипфейки
Дипфейки — это синтезированное аудиосообщение или видеоизображение. Его создают для шутки или умышленного обмана. Обычно такой контент производится на базе подготовленного набора видео или голосовых сообщений жертвы, пояснила «Ямал-Медиа» юрист по кибербезопасности Мира Моисеева.
Для создания дипфейка используются алгоритмы машинного обучения — генеративно-состязательные сети. Другими словами, это алгоритм на базе двух нейросетей. Генеративная нейросеть формирует дипфейки так, чтобы состязательная сеть не отличила изображение от оригинала.
Фото: Tero Vesalainen/Shutterstock/Fotodom
Получить доступ к нейросетям можно через веб-сервисы или приложения. С развитием алгоритмов результат становится более качественным. Подделку сегодня очень тяжело отличить от подлинника.
Люди, использующие дипфейки, думают, что в сети они инкогнито, но на самом деле это не так, считает Александр Логинов-Буре. При регистрации в сети Интернет любое устройство использует уникальные IP-адреса, обученные люди с помощью специальных программ могут выявить точный идентификатор каждого устройства, поскольку в чипы материнских плат, в составляющие каждого сетевого устройства вшиты уникальные идентификаторы. При помощи разных технологий их можно раскрыть и распознать.
В чем опасность дипфейков
В России дипфейки начинают становиться все популярнее, их часто используют в мошеннических схемах. Например, это могут быть звонки от якобы служб безопасности банков, правоохранительных органов и государственных учреждений. Распространены и видеозвонки с подменой настоящего чиновника. Кроме того, аферисты выдают себя за известных личностей и звезд шоу-бизнеса. Голосовые дипфейки используют для афер в мессенджерах. Аккаунт пользователя воруют и используют для создания голосовых и визуальных подделок, предостерегла Мира Моисеева.
Фото: True Touch Lifestyle/Shutterstock/Fotodom
Недавно начала распространяться схема с подмененными сообщениями официальных лиц, связанных с происходящим вдоль российско-украинской границы. Такие дипфейки гуляют в телеграм-каналах и соцсетях. Они создают большую проблему для жителей приграничных регионов и сеют панику среди населения.
Использование поддельных изображений и голосов может серьезно навредить репутации жертвы и привести к финансовым потерям. Бороться со злоумышленниками помогут защитные решения, запрещающие пользователю перейти на фишинговый или скам-ресурс.
«В российском законодательстве пока не определено понятие «дипфейк». Законодателю необходимо проработать терминологию и внести соответствующие изменения в смежные законы. Правовые механизмы для борьбы с новыми видами киберпреступлений помогут защитить граждан от мошенничества и клеветы с использованием их образов, а также будут способствовать формированию культуры ответственного применения технологий искусственного интеллекта».Мира Моисеева.юрист по кибербезопасности
То, что законодатель успевает за современными технологическими тенденциями, — это большой плюс, уверен Артем Геллер, эксперт в области IT, главный разработчик сайта kremlin.ru, председатель комиссии в Институте развития Интернета, эксперт комиссии по развитию информационного общества в Совете Федерации, консультант в администрации Президента РФ.
Фото: McLittle Stock/Shutterstock/Fotodom
По его мнению, если говорить про саму технологию, сегодня действительно существуют способы стопроцентного распознания фейка. Так, можно выявить какие-то паттерны поведения, заложенные нейросетью.
Однако в настоящее время развиваются как сами фейки, так и подобное ПО. И тут возникает гонка, похожая на вирусы и антивирусы: изобретают антивирус — значит, обновляют вирус. Что касается правоприменения, то при возбуждении уголовного дела о мошенничестве привлекаются эксперты. На базе их заключений или анализа могут быть сделаны выводы о том, был ли это дипфейк. От этого зависит квалификация правонарушения, пояснил Артем Геллер.
Александр Логинов-Буре также уверен, что в России достаточно ресурсов, благодаря которым можно будет эффективно исполнять новый закон. Но есть нюансы.
«Основными вещественными доказательствами будут непосредственно физические устройства, с которых осуществлялись дипфейки. У каждого есть встроенные коды, которые достаточно легко раскрыть, плюс есть ряд адресов, привязанных к паспортным данным физических и юридических лиц. Это не дает в суде стопроцентной гарантии доказательства использования конкретным лицом дипфейков. Есть люди, которые понимают специфику работы сетевых устройств, их регистрации в сети, знают прочие технические моменты. Я думаю, что они смогут умело обходить законодательство, и собрать доказательную базу будет очень сложно».Александр Логинов-Бурекоммерческий директор IT компании АС
Если же говорить о распространителях дипфейков, которые находятся за границей, то их махинации будут рассматриваться так же, как и любое незаконное действие. Пока на этот вопрос, по мнению нашего собеседника, нет ответа, всего не предугадать: сначала необходимо понять, с чем придется столкнуться российскому правосудию. «К сожалению, с какими-то небольшими технологическими проблемами нам придется сжиться, и отчасти они станут составляющей коммерческих продуктов и развлекательных приложений», — дал прогноз эксперт.
Фото: ESB Professional/Shutterstock/Fotodom
Александр Логинов-Буре придерживается того же мнения — что в случае с зарубежными мошенниками блокировка по IP-адресам не сработает. Уже активно блокируются информационные вбросы из-за границы различной тематики, но это малоэффективная борьба. Скорее всего, основной упор будет делаться на блокировку каких-то ресурсов или VPN-поставщиков, с которых будут осуществляться дипфейки.
Ранее мы писали о том, что мошенники пополнили арсенал своих афер новой схемой. Подробнее читайте в нашем материале.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».