Генеральный прокурор Калифорнии Роб Бонта направил компании xAI (это проект Илона Маска) официальное письмо с требованием немедленно прекратить генерацию и распространение откровенных дипфейков. Речь идёт о сексуализированных изображениях реальных людей (включая женщин и детей), созданных без их согласия с помощью чат-бота Grok.
#1 Что произошло?
На днях офис прокурора уже начал официальное расследование против xAI после многочисленных жалоб и публикаций в СМИ. Люди обнаружили, что Grok может брать обычные фото реальных людей (даже детей) и по запросу пользователей превращать их в откровенные изображения: снимать одежду, добавлять бикини, сексуальные позы и т.д.
Прокурор Бонта в своём заявлении прямо сказал:
«Лавина сообщений о таком контенте — иногда с изображениями женщин и детей в сексуальных ситуациях — шокирует и, как установила моя служба, потенциально незаконна».
#2 Что именно требует Калифорния?
В письме-«прекрати и воздержись» (cease and desist) xAI обязывают:
- Немедленно остановить создание «оцифрованного сексуально откровенного материала» без согласия человека на фото.
- Запретить это полностью, если на изображении несовершеннолетний (до 18 лет).
- Прекратить помогать или способствовать созданию и публикации такого контента.
xAI дали 5 дней на ответ: что они уже сделали и что планируют дальше, чтобы устранить проблему.
#3 Какие законы нарушает Grok по мнению властей Калифорнии?
- Гражданский кодекс Калифорнии § 1708.86 (о неконсенсуальных интимных изображениях).
- Уголовный кодекс § 311 и др. (о материалах сексуального характера с детьми — child sexual abuse material, CSAM).
- Закон о недобросовестной конкуренции § 17200.
- Новый закон о deepfake-порнографии, который вступил в силу всего пару недель назад.
Создание и распространение CSAM (материалов с сексуализацией детей) — это уголовное преступление.
#4 Что уже сделала xAI?
После скандала X (бывший Twitter) и xAI ввели ограничения:
- Запретили редактировать фото реальных людей в откровенную одежду.
- Перевели генерацию изображений из бесплатного в платный доступ (paywall).
- Заблокировали эту функцию для платных пользователей в странах/регионах, где это запрещено законом.
Но прокурор считает, что этого недостаточно — проблема всё равно существует, и изображения используются для травли обычных людей, знаменитостей и даже детей.
#5 Почему это важно для обычного человека в России?
В России тоже растёт число случаев, когда ИИ-генераторы создают фейковые голые фото девушек или подростков для шантажа, мести или просто «прикола». Такие вещи уже приводят к суицидам и уголовным делам. Калифорния сейчас показывает: если компания не реагирует сама — государство (в случае Калифорнии — Штат Америки) вмешается жёстко, с угрозой штрафов, блокировок и уголовки.
Илон Маск, конечно, любит свободу и «максимальную правду», но когда речь о детях и неконсенсуальной порнографии — даже в США это уже переходит красную линию.