Пользователям Grok ограничили возможности редактирования фото

Меры приняли на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений

НЬЮ-ЙОРК, 15 января. /ТАСС/. Американская технологическая компания xAI Илона Маска ввела ограничения на возможность редактирования фотографий реальных людей при помощи чат-бота Grok. Это произошло на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений.

"Мы предприняли технические меры, чтобы предотвратить возможность редактирования пользователями Grok изображений реальных людей в откровенной одежде. Это распространяется на всех пользователей, в том числе платных подписчиков. Кроме того, генерация изображений, а также возможность их редактирования при помощи Grok теперь доступны только для платных подписчиков. Это создаст дополнительный уровень защиты, помогая гарантировать, что лица, которые пытаются злоупотреблять возможностями Grok с целью нарушить закон или наши принципы, будут привлечены к ответственности", - говорится в сообщении xAI, размещенном в X.

Также возможности генерации подобных изображений будут полностью блокироваться в тех странах, где это прямо запрещено законодательством. В xAI подчеркнули, что придерживаются "политики нулевой терпимости к любым формам сексуальной эксплуатации детей, публикациям откровенных фото без согласия изображенного на них человека и нежелательному сексуальному контенту". Компания заверила, что удаляет такой контент со своих площадок.

Ранее власти Малайзии и Индонезии заблокировали работу Grok на территории своих стран. Причиной стало то, что чат-бот, как заявляли представители двух азиатских стран, неоднократно применяли для генерации порнографических, оскорбительных и несанкционированно измененных изображений, включая материалы с участием несовершеннолетних. Премьер-министр Великобритании Кир Стармер на фоне скандала пригрозил установить контроль над чат-ботом Grok, а комиссар ЕС по технологическому суверенитету, безопасности и демократии Хенна Вирккунен призвала Маска исправить его алгоритмы. Генеральный прокурор штата Калифорния Роб Бонта в среду призвал xAI "немедленно" прояснить, как компания планирует бороться с распространением откровенного контента.