Социальная платформа X поздно вечером в среду заявила, что ограничивает работу чат-бота Grok — системы искусственного интеллекта, разработанной компанией Илона Маска xAI, — запретив генерацию сексуализированных и обнажённых изображений реальных людей в ряде юрисдикций.
Это решение стало реакцией на волну международного возмущения из-за откровенных ИИ-изображений, которые в последние недели массово распространялись в X. За последнюю неделю регуляторы в разных странах начали расследования в отношении Grok, а в отдельных государствах чат-бот был полностью запрещён.
Ранее в среду власти Калифорнии сообщили, что проверяют возможные нарушения законодательства штата со стороны Grok. В понедельник собственное расследование начала Ofcom — независимый британский регулятор в сфере онлайн-безопасности.
«Это шаг в правильном направлении», — заявил британский регулятор в четверг, комментируя новые ограничения. — «Однако наше формальное расследование продолжается».
Если будет установлено, что X нарушила британское законодательство и откажется выполнять требования Ofcom, регулятор вправе обратиться в суд с требованием запретить платёжным системам и рекламодателям сотрудничать с платформой.
В заявлении X говорится, что компания будет использовать геоблокировку, чтобы Grok не выполнял запросы на создание подобного контента в странах, где он запрещён законом.
При этом ограничения, судя по всему, не распространяются на отдельное приложение Grok и его веб-версию за пределами X. И Grok, и X принадлежат компании xAI. Представители X не ответили на запросы журналистов о комментариях.
«Мы по-прежнему привержены тому, чтобы X оставалась безопасной платформой для всех, и придерживаемся политики нулевой терпимости к сексуальной эксплуатации детей, несанкционированной наготе и нежелательному сексуальному контенту», — говорится в официальном заявлении компании.
На прошлой неделе X уже объявила, что ограничила генерацию изображений в Grok только для платных подписчиков, однако этот шаг не успокоил регуляторов. Индонезия и Малайзия полностью запретили чат-бот, а Европейский союз начал расследование в связи с созданием Grok откровенных «дипфейков».
Глава Европейской комиссии Урсула фон дер Ляйен резко раскритиковала технологию. «Меня ужасает, что технологическая платформа позволяет пользователям цифровым образом раздевать женщин и детей в интернете. Это недопустимое поведение», — заявила она европейским СМИ ранее в этом месяце. — «Вред от этого вполне реален».
В распоряжении ЕС имеются мощные инструменты давления, включая Закон о цифровых услугах (Digital Services Act), который обязывает крупные технологические компании контролировать контент на своих платформах под угрозой крупных штрафов.
Эти меры нередко подвергаются критике со стороны администрации Дональда Трампа, которая утверждает, что европейское цифровое регулирование является формой цензуры и несправедливо направлено против американских технологических гигантов.
Европейские регуляторы уже обязали Grok сохранить документацию, связанную с созданием сексуализированных изображений, в рамках текущего расследования. Во многих странах хранение и распространение сексуальных изображений детей является уголовным преступлением, а в ряде юрисдикций запрещены и ИИ-сгенерированные материалы такого рода.
Кроме того, в США, Великобритании и других странах действуют законы против распространения несанкционированных интимных изображений — так называемого «порномщения». Правила X прямо запрещают публикацию интимных фото или видео, созданных или распространённых без согласия изображённого человека.