Больше новостей об IT в Telegram канале «Код Дурова»
Эротические дипфейки от чат-бота Grok, разработанного компанией xAI Илона Маска и встроенного в соцсеть X, стали поводом для проверки британским регулятором.
Правительство Великобритании отреагировало на случаи генерации чат-ботом Grok сексуализированного контента. От британского регулятора Ofcom потребовали ограничительных мер против X, включая запрет соцсети — причина оказалась в том, что ИИ публично раздевает людей, в том числе несовершеннолетних.
Премьер-министр Великобритании Кир Стармер публично призвал местных регуляторов принять меры против X, так как такой контент недопустим:
«Это отвратительно. X нужно взять себя в руки и убрать этот материал. И мы примем меры, потому что это просто недопустимо <...> Мы не собираемся это терпеть. Я потребовал рассмотреть все варианты [ограничений против X]».
Скандал разгорелся после того, как X в Новый год запустила функцию редактирования изображений, и пользователи по всему миру начали превращать фото в сексуализированные сцены.
Какие эротические дипфейки стали поводом для проверок?
Если изучить историю публичных запросов пользователей X, то Grok публично генерировал множество изображений, раздевая одетых людей. Например, одетую девушку чат-бот изображал в откровенном виде в купальнике.
СМИ описывают разные случаи генерации изображений, включая и снятие одежды с несовершеннолетних. Один из пользователей, например, просил снять одежду с изображения 14-летней Нелл Фишер — актрисы из сериала «Очень странные дела». Множество фото также «редактируются» без согласия людей, которые на них изображены.
Власти сразу нескольких стран обрушились с критикой на Grok. Первыми о расследовании заявили в Малайзии, почти одновременно к X обратились власти Индии. Более того, Франция обвинила X в нарушении европейского закона о цифровых услугах (DSA):
В Grok, конечно, сразу отреагировали на обвинения, заявив, что генерации картинок с детьми были ошибкой в системе безопасности. Илон Маск, в свою очередь, написал, что X удаляет незаконный контент, блокирует аккаунты и сотрудничает с властями.
По уверениям Маска, пользователи, создающие противоправные материалы с помощью Grok, понесут такую же ответственность, как и при обычной загрузке контента. После инициирования проверок в ряде стран генерация картинок в X стала платной:
Заглавное изображение: Jakub Porzycki / NurPhoto / Getty Images
Больше новостей об IT в Telegram канале «Код Дурова»