Массовый поток сгенерированных искусственным интеллектом сексуальных изображений вызвал серьезную обеспокоенность среди официальных лиц штатов и Конгресса США. Генпрокурор Калифорнии Роб Бонта направил компании xAI предписание о немедленном прекращении создания материалов сексуального насилия над детьми и дипфейков без согласия на фоне расследований в ряде стран.
«Сегодня я направил компании xAI предписание о немедленном прекращении незаконных действий, требуя немедленно остановить создание и распространение дипфейков, интимных изображений, созданных без согласия, и материалов, связанных с сексуальным насилием над детьми», — заявил генеральный прокурор Калифорнии Роб Бонта в пресс-релизе. «Создание таких материалов является незаконным. Я полностью ожидаю немедленного соблюдения требований со стороны xAI. Калифорния проявляет нулевую терпимость к [материалам о сексуальном насилии над детьми]».
В офисе генерального прокурора также утверждали, что xAI, по-видимому, «способствует крупномасштабному производству» откровенных снимков без согласия, которые «используются для преследования женщин и девочек по всему интернету». Ведомство заявило, что ожидает от xAI доказательств принятия мер по решению этих проблем в течение следующих пяти дней.
В основе общественной критики лежит функция Grok под названием «острый» режим, созданная xAI для генерации откровенного контента. Проблема вышла за пределы Калифорнии: Япония, Канада и Великобритания начали расследования в отношении Grok, а Малайзия и Индонезия временно заблокировали платформу. Несмотря на то, что поздно вечером в среду xAI ввела некоторые ограничения на свои функции редактирования изображений, офис генерального прокурора Калифорнии всё же направил предписание о немедленном прекращении незаконных действий.
Ранее аккаунт X по вопросам безопасности осудил подобные действия пользователей, заявив: «Любой, кто использует Grok или даёт ему указания для создания незаконного контента, понесёт те же последствия, как если бы он загрузил этот незаконный контент сам». TechCrunch обратился к xAI за комментариями и получил автоматический ответ с текстом «Устаревшие СМИ Лгут». TC также связался с офисом генерального прокурора Калифорнии для получения дополнительной информации.
Появление бесплатных генеративных инструментов AI привело к тревожному росту числа материалов сексуального характера без согласия. Многие платформы борются с этой проблемой, и не только X. Эта неприглядная активность привлекла внимание не только руководителей штатов, но и Конгресса. В четверг законодатели направили письма руководителям ряда компаний — включая X, Reddit, Snap, TikTok, Alphabet и *Meta — с вопросом о планах по пресечению распространения сексуализированных дипфейков.
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Lucas Ropek