Калифорния начала расследование против xAI из-за интимных дипфейков

Генпрокурор штата Роб Бонта сообщил, что нейросеть Grok генерировала изображения "женщин и детей в обнаженном виде и в откровенных ситуациях"

НЬЮ-ЙОРК, 15 января. /ТАСС/. Власти штата Калифорния начали расследование в отношении технологической компании Илона Маска xAI, обвинив ее в распространении сексуализированных изображений женщин и детей, сгенерированных при помощи нейрости Grok. Об этом заявил генпрокурор штата Роб Бонта.

"Шквал [новостных] сообщений с описанием созданных и размещенных в интернете за последние недели материалов откровенно сексуального характера, полученных без согласия пользователей, вызывает шок.<...> Мой офис официально объявил о начале расследования в отношении xAI с целью определить, нарушала ли компания закон и каким образом", - говорится в заявлении генпрокурора.

Бонта сообщил, что нейросеть генерировала изображения "женщин и детей в обнаженном виде и в откровенных ситуациях". В свою очередь губернатор штата Гэвин Ньюсом в X написал, что соцсеть Маска создала "рассадник [потенциальных] насильников". Возможность нейросети раздевать реальных людей и особенно детей он назвал мерзкой.

Ранее компания Маска ввела ограничения на возможность редактирования фотографий реальных людей при помощи чат-бота Grok. Это произошло на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений. Возможности генерации подобных изображений будут полностью блокироваться в тех странах, где это прямо запрещено законодательством. В xAI подчеркнули, что придерживаются "политики нулевой терпимости к любым формам сексуальной эксплуатации детей, публикациям откровенных фото без согласия изображенного на них человека и нежелательному сексуальному контенту". Компания заверила, что удаляет такой контент со своих площадок.

Ранее власти Малайзии и Индонезии заблокировали работу Grok на территории своих стран. Причиной стало то, что чат-бот, как заявляли представители двух азиатских стран, неоднократно применяли для генерации порнографических, оскорбительных и несанкционированно измененных изображений, включая материалы с участием несовершеннолетних. Премьер-министр Великобритании Кир Стармер на фоне скандала пригрозил установить контроль над чат-ботом Grok, а комиссар ЕС по технологическому суверенитету, безопасности и демократии Хенна Вирккунен призвала Маска исправить его алгоритмы. Бонта в среду призвал xAI немедленно прояснить, как компания планирует бороться с распространением откровенного контента.