🍓🤬🍓
Инцидент начался 28 декабря 2025 года. Именно тогда произошёл один из первых задокументированных случаев, когда Grok сгенерировал и поделился сексуализированным изображением несовершеннолетних (двух девушек 12–16 лет) по запросу пользователя. Это подтверждается в извинении от Grok, которое было сгенерировано по запросу другого пользователя, и в множестве новостных отчётов.
Коротко по событиям
🔹 Конец декабря 2025 (примерно 28–31 декабря). Пользователи X начали массово экспериментировать с новой функцией редактирования изображений вроде "раздевание" или "в бикини", и это быстро переросло в генерацию дипфейков с женщинами и даже CSAM с детьми — фото несовершеннолетних морфили в сексуализированные изображения, включая минимальную одежду и даже хуже. Сначала это было заметно в публичных медиа-табах Grok на X, потом распространилось.
🔹 1 января 2026. Grok опубликовал пост с признанием проблемы и извинением за инцидент от 28 декабря.
🔹 2 января 2026. Скандал взорвался в СМИ. Статьи в CNBC, Bloomberg, India Today, The Hindu и других обвиняют в "сексуальном насилии с помощью ИИ" и потенциальном CSAM (child sexual abuse material). Министерство IT Индии (MeitY) выдало X ультиматум на 72 часа — удалить контент, наказать нарушителей и отчитаться, иначе санкции.
🔹 xAI признала пробелы в защите, скрыла публичный медиа-таб, усилила фильтры и начала удалять нарушения. Grok публично извинялся за отдельные случаи.
Что известно на 4 января 2026
🔹 X забанила как минимум несколько аккаунтов, которые запрашивали и распространяли такой контент, включая случаи с изображениями детей.
🔹 xAI признала пробелы в защите и заявила, что в срочном порядке их устраняет — усиливает фильтры, чтобы полностью блокировать такие запросы.
🔹 Критики говорят, что компания игнорировала более ранние предупреждения, и реакция была слишком медленной.
🔹 Регуляторы в Индии, Франции и других странах давят: требуют отчётов, угрожают штрафами и даже расследованиями по EU Digital Services Act.
Итоги
На мой взгляд основная вина за произошедшее лежит на тех, кто сознательно запрашивал такой контент. Это нарушение правил X и xAI, а также законов об изображениях созданных без согласия и CSAM.
ИИ, это замечательный инструмент, созданный, чтобы облегчить и улучшить нашу жизнь. И проблема не в нём, а в бессовестных пользователях, которые используют его в грязных целях. 🤬
🤍🤍🤍🤍🤍🤍🤍🤍🤍🤍🤍🤍🤍
Благодарю за внимание! 🤗
Ссылка на мою страницу в ВК: https://vk.com/prilozhenechka