Скандал с массовым созданием откровенных дипфейков на платформе X вынудил компанию Илона Маска ввести ограничения. Только вот реализация оказалась настолько небрежной, что обходится в пару кликов.
Что произошло
С конца декабря прошлого года платформа X превратилась в настоящий конвейер по производству откровенного контента. Мы недавно писали об этом здесь. Пользователи массово использовали ИИ-инструмент Grok для того, чтобы раздевать людей на фотографиях без их согласия. Жертвами становились обычные женщины, публичные персоны и даже несовершеннолетние.
Масштаб проблемы поражает воображение. По данным исследователя Дженевьев О, специализирующейся на анализе дипфейков, Grok в среду генерировал около 7 750 откровенных изображений в час. Для сравнения: все остальные подобные сервисы в совокупности производят около 79 изображений в час.
Организация Internet Watch Foundation подтвердила, что Grok использовался для создания противоправных изображений детей в возрасте от 11 до 13 лет.
Решение, которое не решает проблему
В пятницу xAI объявила о введении ограничений. Теперь при попытке сгенерировать изображение через чат-бота на X пользователи видят сообщение: генерация и редактирование изображений доступны только платным подписчикам.
Логика понятна: верифицированные пользователи с привязанной картой и реальными данными вряд ли станут создавать нелегальный контент под своим именем.
Но есть нюанс. Даже несколько нюансов.
Во-первых, кнопка Edit image на загруженных в X фотографиях по-прежнему работает для всех. Достаточно нажать на неё — и Grok послушно выполнит любой запрос.
Во-вторых, отдельное приложение Grok и веб-сайт сервиса продолжают предоставлять бесплатный доступ к генерации изображений без каких-либо ограничений.
То есть ИИ буквально врёт пользователям, утверждая, что функция доступна только подписчикам, хотя это не так.
Международный скандал
Правительства по всему миру отреагировали жёстко.
Премьер-министр Великобритании Кир Стармер назвал происходящее отвратительным и недопустимым, потребовав рассмотреть все возможные меры вплоть до блокировки платформы. Регулятор Ofcom уже инициировал расследование и может оштрафовать X на сумму до 10% глобальной выручки компании.
Даунинг-стрит отдельно прокомментировал введение платного доступа: это оскорбление жертв сексуального насилия. По сути, X превратил инструмент для создания незаконных изображений в премиум-сервис.
Европейская комиссия обязала X сохранять всю внутреннюю документацию по Grok до конца 2026 года. Представитель ЕС заявил прямо: это не что-то пикантное — это незаконно и отвратительно. Такому не место в Европе.
Прокуратура Парижа возбудила уголовное расследование. Индия направила официальное уведомление с требованием объяснений. Австралийский регулятор онлайн-безопасности проводит собственную проверку.
Позиция X и xAI
Реакция компании выглядит по меньшей мере странной. На запрос Reuters представитель xAI ответил коротко: ложь устаревших медиа.
Сам Маск ранее отшучивался, публикуя сгенерированные Grok изображения себя и тостера в бикини. Позже он написал, что любой, кто использует Grok для создания нелегального контента, понесёт такую же ответственность, как если бы загрузил этот контент сам.
При этом на фоне скандала руководство X хвасталось рекордными показателями вовлечённости пользователей. А xAI как раз на этой неделе закрыла инвестиционный раунд серии E, привлекла 20 миллиардов долларов — больше запланированных 15 миллиардов.
Что дальше
Министр технологий Великобритании Лиз Кендалл заявила, что ожидает конкретных шагов от Ofcom в ближайшие дни, а не недели. Регулятор имеет полномочия заблокировать X для британских пользователей, отрезав платформу от рекламных доходов и платежей.
Группа американских сенаторов направила письмо Apple и Google с требованием удалить X и Grok из магазинов приложений за нарушение правил распространения.
Либерал-демократы в британском парламенте призвали Национальное агентство по борьбе с преступностью начать уголовное расследование.
От редакции
История с Grok высвечивает несколько важных трендов.
Первый — ИИ-компании продолжают двигаться по принципу «сначала запустим, потом разберёмся». Grok Imagine выпустили в августе 2025 года, и проблемы с генерацией непристойного контента были известны практически сразу. Но серьёзные меры начали принимать только после международного скандала.
Второй — регуляторы наконец-то получили реальные инструменты воздействия. Британский Online Safety Act и европейский DSA позволяют не просто грозить пальцем, а штрафовать на миллиарды и блокировать доступ к сервисам. Декабрьский штраф X на 120 миллионов евро показал, что ЕС настроен серьёзно.
Третий — защита персональных данных и изображений становится критически важной темой. Технологии генерации достигли уровня, когда любая публичная фотография может стать исходником для компромата. Это касается каждого.
Для обычных пользователей вывод прост: внимательнее относитесь к тому, какие фотографии вы публикуете в открытом доступе. Для бизнеса — учитывайте репутационные риски присутствия на платформах с сомнительной модерацией. Для всех — следите за развитием законодательства в этой сфере, потому что правила игры меняются прямо сейчас.
Подписывайся, чтобы своими глазами видеть, куда катится этот мир!