Британские регуляторы Ofcom и ICO требуют от Илона Маска объяснить, почему ИИ-чат-бот Grok генерирует сексуализированные изображения без согласия пользователей. Эксперты предупреждают о риске применения жестких мер в рамках Закона о безопасности в интернете.
Платформа Илона Маска X оказалась под огнем критики на фоне ужесточения позиции британских регуляторов из-за растущего числа сообщений о том, что ее ИИ-чат-бот Grok генерирует откровенные изображения без согласия пользователей.
Ofcom, британский регулятор связи, ответственный за правоприменение в рамках Закона о безопасности в интернете (Online Safety Act, OSA), сообщил на этой неделе, что связался с X и ее подразделением xAI, потребовав объяснений. Управление комиссара по информации (ICO) также выразило свою озабоченность.
В официальном заявлении представитель Ofcom сообщил: “Мы осведомлены о серьезных опасениях, высказанных по поводу функции в Grok… которая создает изображения людей без одежды и сексуализированные изображения детей”.
“Мы срочно связались с X и xAI, чтобы выяснить, какие шаги они предприняли для соблюдения своих законных обязанностей по защите пользователей в Великобритании. Основываясь на их ответе, мы проведем быструю оценку, чтобы определить, существуют ли потенциальные проблемы с соблюдением требований, требующие расследования”.
ICO заявило: “Мы осведомлены о сообщениях, вызывающих серьезную озабоченность по поводу контента, создаваемого Grok. Мы связались с X и xAI, чтобы получить разъяснения относительно мер, которые они принимают для соблюдения законодательства Великобритании о защите данных и защиты прав личности. Как только мы рассмотрим их ответ, мы быстро оценим, потребуются ли дальнейшие действия”.
Internet Watch Foundation (IWF) на этой неделе заявила, что ее аналитики стали свидетелями генерации Grok изображений, связанных с насилием над детьми.
Нгэйр Александер, руководитель горячей линии IWF, сообщила Sky News, что Grok создает изображения насилия, которые по британскому законодательству будут классифицированы как материал Категории C – непристойный, но не откровенно сексуальный. Эти сгенерированные Grok изображения Категории C затем используются в различных ИИ-инструментах для создания видео Категории A, представляющих наибольшую опасность.
“Нет никакого оправдания для выпуска продуктов для широкой публики, которые могут быть использованы для насилия и причинения вреда людям, особенно детям”, – заявила она.
Александер уточнила, что изображения, увиденные IWF, находятся не непосредственно в Grok или X, а на форуме в даркнете, где пользователи утверждают, что использовали Grok для генерации сексуализированных изображений.
Дополнительное исследование, проведенное Дженевьев О, исследователем социальных сетей и дипфейков, о котором сообщило Bloomberg, показало, что за 24 часа между 5 и 6 января Grok генерировал около 6700 сексуализированных изображений в час.
В ответ на переполох, министр по делам технологий Великобритании Лиз Кендалл заявила, что X должна “срочно решить этот вопрос”.
“Мы не можем и не позволим распространять эти унизительные и оскорбительные изображения, которые непропорционально нацелены на женщин и девочек”, – сказала она. “Не заблуждайтесь, Великобритания не потерпит бесконечного распространения отвратительного и оскорбительного материала в интернете. Мы должны объединиться, чтобы покончить с этим”.
В зависимости от реакции X на требования британских регуляторов, этот вопрос может стать одним из самых серьезных испытаний для Закона о безопасности в интернете с момента его вступления в силу.
Александр Браун, глава отдела технологий, медиа и телекоммуникаций в международной юридической фирме Simmons & Simmons, отметил, что OSA прямо определяет распространение интимных изображений без согласия – включая сгенерированные ИИ дипфейки – как “приоритетное правонарушение”.
Это означает, что X должна “предпринять упреждающие, пропорциональные шаги для предотвращения появления такого контента на своей платформе и для его оперативного удаления при обнаружении”, – добавил он.
X не сразу ответила на наш запрос о комментарии.
Нарушения Закона о безопасности в интернете могут повлечь за собой штрафы до 18 миллионов фунтов стерлингов (24,2 миллиона долларов США) или 10 процентов от соответствующего мирового дохода организации, в зависимости от того, что больше. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/9
Bayan-score: 0.84841907
Автор – Connor Jones