В январе соцсеть X столкнулась с лавиной генерируемого порнографического контента: с помощью Grok пользователи массово создавали дипфейки, «раздевая» на фотографиях взрослых и детей без их согласия. Реакция регуляторов и активистов была предсказуемой: вопросы звучали не только к платформе Илона Маска, но и к Apple, чья витрина приложений продолжала спокойно показывать X и Grok в топ‑чартах.
По данным CNBC, Apple в приватном порядке предупредила xAI: если ситуация с дипфейками не будет исправлена, Grok могут исключить из App Store. Формальным поводом стали правила модерации пользовательского контента в магазине приложений — Apple требует, чтобы разработчики активно предотвращали распространение нелегального и вредоносного контента, включая несанкционированную порнографию и материалы с участием детей.
Обнародованная внутренняя переписка показала, что Apple отклонила одно из обновлений Grok с прямым указанием на нарушения. В ответном письме компания заявила, что хотя X «в значительной степени устранил свои нарушения», сам отдельный клиент Grok по‑прежнему не соответствует требованиям и нуждается в дальнейших изменениях, иначе обновление и само приложение рисковали быть удалёнными из магазина.
Только после серии правок и переговоров между командой модерации App Store и разработчиками xAI Apple согласилась пропустить обновлённую версию. Детали внесённых изменений публично не раскрываются, но в Apple охарактеризовали новое издание Grok как «существенно улучшенное». При этом сам факт угрозы бана чётко обозначил: терпимость Apple к дипфейк‑приложениям не бесконечна, но и жёсткая линия проводится не всегда последовательно.
Ситуация вокруг Grok развивалась на фоне уже существующего давления со стороны политиков и регуляторов в разных странах. Ранее несколько государств в Азии временно блокировали доступ к приложению после сообщений о том, что Grok использовали для создания почти обнажённых изображений женщин и детей на основе их реальных фотографий. Исследователи фиксировали тысячи запросов в час, когда пользователи «раздевали» снимки за счёт генеративной нейросети.
В самой социальной сети X после скандала часть функций Grok начали ограничивать — в частности, сократили возможности бота по обработке изображений, а доступ к некоторым инструментам сделали платным. Однако, как отмечали журналисты и эксперты, отдельное приложение и веб‑версия продолжали позволять обходить запреты и получать сексуализированные дипфейки реальных людей. Пользователи находили обходные формулировки в промптах, чтобы получать откровенные изображения, хотя политика сервиса формально запрещала подобный контент.
В правилах App Store прямым текстом говорится, что приложения с пользовательским контентом обязаны иметь встроенные системы модерации — фильтры, механизмы жалоб, быструю реакцию на нарушения. На фоне этой истории Apple действительно начала активнее чистить каталог: по разным данным, после проверки компания убрала 28 других приложений для дипфейк‑порно, когда они попали в фокус медиа. Но X и Grok, за которыми стоит один из самых влиятельных предпринимателей мира, в итоге остались в магазине.
Именно этот двойной стандарт и вызывает больше всего вопросов у критиков Apple. Ранее компания без колебаний удаляла приложения за гораздо менее серьёзные нарушения, не связанные с детской сексуальной эксплуатацией или массовым производством несанкционированной порнографии. В случае с Grok в Купертино выбрали путь переговоров и постепенных доработок, а не немедленный бан, что создаёт ощущение, что на практике для крупных игроков действуют более мягкие стандарты, чем для разработчиков поменьше.
Отдельная линия в этой истории — реакция законодателей и правозащитников. Группы, защищающие права женщин, а также несколько сенаторов США публично требовали от Apple и Google удалить X и Grok из магазинов до завершения расследований по фактам массового производства несанкционированных сексуализированных изображений. Их аргумент прост: с учётом собственных правил площадок, «закрывать глаза» на поведение Grok — значит подрывать доверие к политике модерации и фактически поощрять цифровое насилие.
Формально же Apple продемонстрировала, что готова угрожать удалением даже настолько крупным приложениям, если речь идёт о дипфейках с участием детей и несанкционированной порнографии. Неофициально же кейс с Grok показывает, что окончательное решение зависит не только от буквы правил, но и от готовности компании идти до конца в конфликте с влиятельным партнёром.
В результате Grok остался в App Store — уже с «существенно улучшенной» модерацией, но с репутацией одного из главных примеров, на которых регуляторы и общества в разных странах будут выстраивать будущие правила игры для генеративного ИИ.