Правительство Великобритании изучает возможность полного запрета социальной сети X. Причиной стали изображения, которые пользователи создают с помощью искусственного интеллекта чат-бота Grok, интегрированного в платформу.
Как сообщает The Daily Telegraph, пользователи X начали генерировать с помощью нейросети фотографии обнаженных женщин и детей. Как обнаружили британские власти, подобные ИИ-картинки, созданные Grok, распространялись на одном из форумов даркнета и могли квалифицироваться как материалы о сексуальном насилии над несовершеннолетними.
Среди созданных дипфейков также фигурируют изображения принцессы Уэльской, действующих министров кабинета, членов парламента и многих знаменитостей. Премьер-министр Великобритании Кир Стармер уже поручил медиарегулятору Ofcom рассмотреть все возможные варианты действий в отношении социальной сети Илона Маска.
«X должен взять ситуацию под контроль, и Ofcom имеет нашу полную поддержку, чтобы принять меры по этому поводу. Это неправильно.
Это незаконно. Мы не собираемся это терпеть», – подчеркнул Стармер.
Это не первый подобный случай. Ранее, весной 2024 года, аналогичная проблема возникала в сервисе Apple. Компания удалила из своего магазина приложений App Store несколько сервисов, работающих на основе искусственного интеллекта, после того, как выяснилось, что они способны генерировать изображения обнаженной натуры. Однако, как отмечает издание 404 Media, которое первоначально обнаружило эти приложения, ситуация может повториться. Система модерации Apple не смогла самостоятельно выявить нарушения, и проблема стала известна только после того, как привлекла внимание журналистов. Подобные инструменты уже не раз становились в Соединенных Штатах поводом для серьезных разбирательств и обсуждения мер регулирования.
Ранее сообщалось, что почти половина российских интернет-пользователей не умеют распознавать дипфейки.