Суд в Испании вынес приговор 15 школьникам, которые создавали непристойные изображения с помощью нейросетей. Такие снимки несовершеннолетние распространяли в мессенджерах, пишет The Guardian.
Громкая история началась еще в летом 2023 года. Жители города Альмендралехо случайно увидели неприличные картинки в одном из групповых чатов. На изображениях были местные школьницы. В шоке оказались как сами девушки, так и их родители и друзья. И вскоре выяснилось, что фотографии — ненастоящие. Кто-то создал их с помощью ИИ-моделей.
Подозреваемых быстро нашли. Ими оказались сверстники пострадавших девочек. Как узнали полицейские, десятки дипфейков создали подростки в возрасте от 13 до 15 лет. Для этого они пользовались одним из популярных сервисов. Согласно приговору суда, школьники взяли настоящие фотографии девочек из социальных сетей, а затем обработали их с помощью нейросетей. Получившиеся картинки отправили в мессенджеры.
Подростков признали виновными по десяткам пунктов обвинения, касающихся создания непристойных изображений, а также морального ущерба. Им назначили по одному году лишения свободы условно. Также несовершеннолетних обязали ходить на занятия по вопросам гендерного равенства, а также по ответственному использованию технологий. А дела обвиняемых, которым еще не исполнилось 14 лет, отправили в местную службу защиты детей.
Как отметили испанские общественники, история со сгенерированными картинками повлияла не только на пострадавших школьниц. По их словам, современные технологии вроде нейросетей могут использовать как во благо, так и в преступных целях. Они считают, что из-за этого этичность ИИ-моделей находится под большим вопросом.
Ранее появилась технология, которая позволяет с высокой точностью распознать сгенерированные картинки. MISLnet дает верный ответ в 98% случаев. Технология при этом работает как с фотографиями, так и с видео. А в России тем временем рассматривают возможность ввести уголовную ответственность за дипфейки. Технологии несут риски копирования персональных биометрических данных, а также различных преступлений с использованием внешности и голоса людей.