Американская технологическая компания xAI Илона Маска ввела ограничения на возможность редактирования фотографий реальных людей при помощи чат-бота Grok. Это произошло на фоне скандала из-за генерации чат-ботом интимных дипфейк-изображений.
Компания xAI Илона Маска ввела ограничения на редактирование фотографий реальных людей с помощью чат-бота Grok. Это решение приняли на фоне крупного скандала: пользователи массово генерировали с помощью Grok интимные и сексуализированные дипфейки (в том числе «раздевание» людей на фото, создание откровенных изображений без согласия, включая случаи с несовершеннолетними).
«Мы предприняли технические меры, чтобы предотвратить возможность редактирования пользователями Grok изображений реальных людей в откровенном виде. Это распространяется на всех пользователей, в том числе платных подписчиков. Кроме того, генерация изображений, а также возможность их редактирования при помощи Grok теперь доступны только для платных подписчиков. Это создаст дополнительный уровень защиты, помогая гарантировать, что лица, которые пытаются злоупотреблять возможностями Grok с целью нарушить закон или наши принципы, будут привлечены к ответственности», - говорится в сообщении xAI.
Илон Маск заявил, что оголять можно будет только до пояса и только вымышленных персонажей, однако попытки редакции iXBT.com создать полностью обнажённых персонажей увенчались успехом без каких-либо проблем.
В странах, где такие изображения запрещены законодательством, они будут блокироваться полностью. Компания придерживается «политики нулевой терпимости к любым формам сексуальной эксплуатации детей, публикациям откровенных фото без согласия изображенного на них человека и нежелательному сексуальному контенту». Компания заверила, что удаляет такой контент со своих площадок.
Ранее власти Малайзии и Индонезии заблокировали работу Grok на территории своих стран. Ранее премьер-министр Великобритании Кир Стармер заявил, что в данный момент власти должны «рассмотреть все варианты», включая потенциальный запрет платформы X. Великобритания также провела переговоры с Канадой и Австралией о возможном запрете социальной сети Илона Маска.