Генерация изображений в Grok на платформе X стала платной после того, как британские министры и регуляторы выразили серьезную озабоченность по поводу возможности создания непристойного контента, что грозит X запретом в Великобритании.
Grok убрал свою игрушку по генерации изображений из рук большинства пользователей X после того, как правительство Великобритании открыто задумалось о запрете этой функции искусственного интеллекта, которая «раздевала» людей по команде.
В ответах пользователям X, которые видел The Register, аккаунт Grok подтвердил, что «генерация и редактирование изображений в настоящее время ограничены платными подписчиками». Это изменение по сравнению с предыдущей схемой, когда любой желающий мог вызвать систему, отметив её в посте и попросив создать картинку.
Такой доступ способствовал мрачной тенденции: пользователи загружали фотографии одетых людей — иногда несовершеннолетних — и поручали боту снять с них одежду или придать им сексуализированные позы. Grok выполнял эти указания.
Откат произошел на фоне того, как правительства открыто обсуждают возможность полного запрета или бойкота X, если платформа не сможет обуздать злоупотребления, ставшие возможными благодаря её инструментам ИИ. В Великобритании скриншоты изображений, сгенерированных Grok, быстро привлекли внимание министров и регуляторов, которые начали сомневаться, соблюдает ли X Закон об онлайн-безопасности (Online Safety Act).
Министр по вопросам защиты населения Джесс Филлипс не выбирала выражений, назвав использование Grok для создания унижающих достоинство интимных изображений без согласия «абсолютным позором». Она предупредила, что жизни могут быть «разорены» инструментами, используемыми для преследования и злоупотреблений в отношении женщин и девочек, по сообщению The Times. Правительство уже обязалось запретить так называемые приложения для «раздевания» и станет первой страной, которая введет уголовную ответственность за хранение, создание или распространение инструментов ИИ, предназначенных для генерации материалов о сексуальном насилии над детьми, с наказанием до пяти лет тюремного заключения, по словам Филлипс.
Премьер-министр Кир Стармер поддержал эту позицию, назвав то, что появилось в Grok, «абсолютно неприемлемым» и заявив, что «рассматриваются все варианты», когда его спросили, продолжит ли правительство использовать платформу.
«X должна взять себя в руки и удалить этот контент — и мы примем меры, потому что это просто недопустимо», — заявил премьер-министр, как сообщает The Telegraph.
Комитет парламента по делам женщин и равенства также дал понять, что пересматривает свое присутствие на платформе, заявив, что сервис, «активно производящий откровенные и оскорбительные материалы против женщин и детей», не подходит для официальных коммуникаций.
Регуляторы заняли столь же жесткую позицию. Ofcom предупредил, что платформы, не сдерживающие незаконный или вредоносный контент, могут столкнуться с принудительными мерами и крупными штрафами в соответствии с Законом о безопасности в Интернете, в то время как Управление Комиссара по информации (ICO) заявило, что расследует, были ли нарушены законы о защите данных, особенно в тех случаях, когда изображения реальных людей были изменены без их согласия.
«Мы осведомлены о сообщениях, вызывающих серьезную озабоченность по поводу контента, созданного Grok», — сообщил The Register представитель ICO. «Мы связались с X и xAI, чтобы прояснить меры, которые они приняли для соблюдения законодательства Великобритании о защите данных и защиты прав отдельных лиц».
X не ответила на вопросы The Register, но настаивает, что принимает меры в отношении незаконного контента, включая материалы о сексуальном насилии над детьми, удаляя посты, приостанавливая аккаунты и сотрудничая с правоохранительными органами, добавляя, что любой, кто дает Grok команду на создание незаконного контента, понесет те же последствия, что и при его загрузке.
Хотя решение Маска сделать генерацию изображений платной может сократить число пользователей, оно вряд ли удовлетворит регуляторов, которые уже задаются вопросом, почему эта функция была разрешена в первую очередь. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Qual-score: 8/6
Bajan-score: 0.862241685
Автор – Carly Page