xAI ограничила редактирование фото людей в чат-боте Grok

Американская xAI ввела новые технические ограничения для пользователей чат-бота Grok после скандала с дипфейк-изображениями интимного характера.

Американская компания xAI, принадлежащая Илону Маску, ограничила возможности редактирования фотографий реальных людей с помощью чат-бота Grok, сообщает ТАСС. Такое решение приняли после скандала, связанного с созданием ботом интимных дипфейк-изображений.

В компании отметили: «Мы предприняли технические меры, чтобы предотвратить возможность редактирования пользователями Grok изображений реальных людей в откровенной одежде».

Теперь функция генерации и редактирования изображений доступна только платным подписчикам Grok, что, по мнению xAI, станет дополнительной мерой защиты от злоупотреблений. Кроме того, в странах, где подобные изображения запрещены законом, эти возможности будут полностью заблокированы.

В xAI подчеркнули свою «политику нулевой терпимости» к сексуальной эксплуатации детей, публикации интимных фото без согласия и нежелательному сексуальному контенту. Компания заверила, что удаляет такие материалы со своих платформ и сервисов.

Ранее власти Малайзии и Индонезии заблокировали доступ к Grok, обвинив пользователей сервиса в генерации порнографических и оскорбительных изображений, в том числе с участием несовершеннолетних. На фоне скандала премьер-министр Британии Кир Стармер пригрозил усилить контроль над Grok, а европейские и американские чиновники потребовали от xAI более строгих мер и разъяснений по борьбе с распространением откровенного контента.

Ранее Еврокомиссия также обвинила Grok в создании антисемитского и педофильского контента.