На платформе X (бывший Twitter) разгорается скандал из-за чат-бота Grok, генерирующего тысячи дипфейков с обнаженными изображениями в час. Мировые регуляторы, включая Еврокомиссию, Ofcom и индийские органы, обещают принять жесткие меры против xAI Илона Маска.
Исследование Copyleaks от 31 декабря предполагало, что в сеть попадало около одного изображения в минуту, однако последующие тесты выявили гораздо больше. Анализ данных за период с 5 по 6 января показал, что за 24 часа генерировалось 6 700 изображений в час.
Однако, несмотря на то что мировые общественные деятели осудили решение выпустить модель без защитных механизмов, у регуляторов, стремящихся обуздать новую систему манипуляции изображениями от Илона Маска, мало четких рычагов воздействия. Результат стал болезненным уроком об ограничениях в регулировании технологий и представляет собой перспективный вызов для законодателей, желающих оставить свой след.
Неудивительно, что самые решительные действия предприняла Европейская комиссия, которая в четверг потребовала от xAI сохранить всю документацию, связанную с чат-ботом Grok. Этот шаг не обязательно означает начало нового расследования, но является частым предвестником таких действий. Он выглядит особенно зловеще в свете недавних сообщений CNN, свидетельствующих о том, что Илон Маск мог лично вмешаться, чтобы предотвратить установку ограничений на типы изображений, генерируемых Grok.
Неясно, предприняла ли X какие-либо технические изменения в модели Grok, хотя общедоступная вкладка медиа в аккаунте Grok в X была удалена. В официальном заявлении компания осудила использование инструментов искусственного интеллекта для создания детской порнографии. «Любой, кто использует Grok или дает ему указания для создания незаконного контента, понесет такие же последствия, как если бы он загрузил незаконный контент», — сообщил аккаунт X Safety 3 января, вторя предыдущему твиту Илона Маска.
Тем временем регуляторы по всему миру выступили с суровыми предупреждениями. Британский регулятор Ofcom опубликовал заявление в понедельник, сообщив, что находится на связи с xAI и «проведет быструю оценку для определения наличия потенциальных проблем с соблюдением норм, требующих расследования». В радиоинтервью в четверг премьер-министр Великобритании Кир Стармер назвал это явление «позорным» и «отвратительным», заявив, что «Ofcom пользуется нашей полной поддержкой для принятия мер в связи с этим».
В посте в LinkedIn австралийский комиссар по вопросам безопасности в сети eSafety Джули Инман-Грант заявила, что ее ведомство получило удвоение жалоб, связанных с Grok, с конца 2025 года. Однако Инман-Грант воздержалась от прямых действий против xAI, лишь отметив: «Мы задействуем весь спектр имеющихся в нашем распоряжении регуляторных инструментов для расследования и принятия надлежащих мер».
Безусловно, самая серьезная реакция исходит от Индии, где Grok стал предметом официальной жалобы члена парламента. В январе индийский регулятор связи MeitY предписал X устранить проблему и представить отчет о «принятых мерах» в течение 72 часов — срок, который впоследствии был продлен еще на 48 часов. Хотя отчет был направлен регулятору 7 января, неясно, будет ли MeitY удовлетворен ответом. В противном случае X может лишиться статуса безопасной гавани в Индии, что может серьезно ограничить ее деятельность в стране.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/6
Bajan-score: 0.862841
Автор – Russell Brandom