В Массачусетсе был арестован мужчина по обвинению в семилетнем преследовании, доксинге и домогательствах в отношении женщины-профессора. Среди предъявленных ему обвинений — использование искусственного интеллекта для создания фейковых обнажённых изображений жертвы и создание чат-бота, который распространял её личные данные на сайте, предназначенном для чат-ботов интимного характера.
Согласно судебным документам, Джеймс Флоренс-младший разместил в общей сложности 128 изображений, включая поддельные обнажённые и полуобнажённые фотографии женщины, на форуме, предназначенном для публичного унижения.
За год с лишним он опубликовал 687 сообщений, в которых раскрывал её имя, адрес электронной почты, домашний адрес, номер телефона и информацию о месте работы. Заголовки его сообщений содержали оскорбительные высказывания, призывающие сделать жертву «знаменитой». Эти действия привели к прямым домогательствам со стороны других пользователей, а Флоренс-младший продолжал отправлять женщине угрожающие сообщения и электронные письма.
Кроме того, Флоренс-младший, как утверждается, запрограммировал личную информацию профессора в двух публичных чат-ботах на разных платформах. Пользователи могли свободно общаться с такими ботами, а при вопросе «Где ты живёшь?», цифровые аватары выдавали реальный адрес женщины.
«Имя, фотография и личная информация жертвы были использованы для создания как минимум трёх чат-ботов на основе искусственного интеллекта на двух различных платформах в период с сентября 2023 по июль 2024 года», — говорится в судебных документах.
«Чат-боты были настроены с использованием личных и профессиональных данных жертвы, что позволяло им предоставлять подробную информацию о ней во время общения с пользователями», — уточняется в документах. «Эта информация включала дату её рождения, домашний адрес, сведения о работе, образовании, хобби, а также имена и места работы её родственников и друзей. Например, если пользователь спрашивал у чат-бота, где она живёт, бот мог предоставить её реальный домашний адрес».
Один из упомянутых сайтов — crushon.ai, позиционирующий себя как платформа для общения с ИИ-персонажами без ограничений и использующий модифицированную версию модели Llama AI. За последние годы подобные сайты, позволяющие создавать собственных чат-ботов для взаимодействия с другими пользователями, стали довольно распространёнными, хотя уровень модерации контента на них может сильно разниться.
Это дело показывает, что преследователи и преступники не только используют искусственный интеллект для создания сексуальных изображений своих жертв без принуждения, но и иногда пытаются воссоздать их в цифровом виде в виде секс-ботов и используют их в своих преследованиях и домогательствах.
Ещё по теме: