В России начнут маркировать контент, созданный искусственным интеллектом. Так отечественные сервисы начнут автоматически помечать сгенерированные с помощью искусственного интеллекта материалы четкими и заметными графическими знаками.
Как сообщает "Коммерсантъ", документ на эту тему уже разрабатывается в парламенте. Зачем искусственному интеллекту метки, разберемся в этой статье.
Метка поставлена
Маркировка для ИИ должна касаться всего контента, производимого нейросетями. Хотя сейчас и существуют сервисы, которые могут определить, сделано изображение нейросетью или человеком, впоследствии злоумышленники смогут обойти и это.
Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» считает, что в случае, когда речь идет о видеоролике, меткой должен служить логотип или водяной знак Если речь идет о тексте, то в качестве метки можно использовать встраивание кода, чтобы при копировании появлялась оговорка о том, что контент создан искусственным интеллектом.
Также в случае неисполнения требований к маркировке контента, созданного ИИ, доступ к сервису начнет ограничиваться по аналогии с полномочиями Роскомнадзора.
Однако, пока окончательный документ не готов, проанализировать возможные последствия от нововведения будет тяжело.
"Маркировка дипфейков возможна. Уже довольно давно существуют технологии водяных знаков или фингерпринтинга, которые изначально создавались для защиты контента, аналогичными решениями можно маркировать и дипфейки. Можно обязать сервисы маркировать фейки, а те, которые не соблюдают данный порядок, заблокировать, но такая блокировка может стать наоборот своеобразной рекламой, будто сервис делает немаркируемые продукты. Саму блокировку можно обойти, либо сервисом изначально могут пользоваться граждане других стран, чтобы атаковать россиян. Кроме того, готовые натренированные модели можно просто установить на свой компьютер и делать дипфейки без каких-либо ограничений. Иными словами, подобные запреты и правила несколько повысят порог входа, но не отпугнут реальных злоумышленников”, – отмечает Станислав Гончаров, руководитель департамента Digital Risk Protection компании F.A.C.C.T.
Новые технологии - новые мошеннические схемы
Искусственный интеллект продолжает активно развиваться и внедряться в нашу жизнь. Вместе с ростом нейросети увеличивается число злоумышленников и различных мошеннических схем.
Ранее специалисты компании F.A.C.C.T. делали обзор на мошеннические схемы с дипфейками, а именно:
- FakeBoss: руководитель присылает в мессенджере аудио или видео. На самом же деле, с жертвой связываются злоумышленники и пытаются развести на деньги
- FakeDate: несуществующая девушка приглашает мужчину на свидание на концерт, в театр или кино. Но вместо потрясающего свидания со сногсшибательной красоткой жертву ждет попадание на фишинговый сайт и списание денежных средств.
- Криптоскам: инвестиционные ролики от лица якобы "известных бизнесменов". На деле это снова видео, созданное искусственным интеллектом. Его цель - обогатить не вас, а злоумышленников, которые его размещают в сети.
- Френдлифайер: поддельные голосовые и "кружочки" в Telegram. Друг неожиданно оказывается в тяжелой ситуации и просит одолжить денег. Однако и в этом случае ваша благотворительность принесет радость только мошенникам.
Кроме того, мошенники активно используют ИИ для создания фишинговых писем, поддельных страниц и т.п. Нейросеть помогает им автоматизировать процесс и повысить эффективность обмана пользователей.
Этот список возможностей, которые предоставляет ИИ для злоумышленников, не является исчерпывающим.
Не забывайте о цифровой гигиене!
Узнавайте больше о новых технологиях и грамотно оценивайте не только их возможности, но и угрозы. Проявляйте бдительность в сети “Интернет” и изучайте информацию из проверенных источников.
Оставайтесь в курсе актуальных новостей в сфере информационной безопасности и подписывайтесь на канал "Кибербез по фактам" в Дзене, а также на наш остросюжетный Telegram-канал.
