Правозащитники требуют от Apple и Google удалить приложение Grok от X из App Store из-за генерации запрещенного контента. Коалиция обвиняет технологических гигантов в соучастии и получении выгоды от распространения изображений сексуального насилия над детьми и неконсенсуальных интимных материалов.
Продолжающийся скандал с Grok унес с собой еще двух невольных участников: правозащитники требуют от Apple и Google изгнать X (бывший Twitter) и его ИИ-помощника из магазинов приложений из-за склонности детища Илона Маска генерировать запрещенные изображения реальных людей.
Коалиция из 28 организаций, занимающихся цифровыми правами, во главе с UltraViolet, в среду направила почти идентичные письма Тиму Куку из Apple и Сундару Пичаи из Google.
Эти послания, являющиеся частью кампании под названием «Уберите Grok» (Get Grok Gone), обвиняют обе компании в получении выгоды от распространения неконсенсуальных интимных изображений (NCII) и материалов о сексуальном насилии над детьми (CSAM), созданных в X с помощью чат-бота Grok. Группы утверждают, что разрешение на присутствие этих приложений нарушает собственные политики App Store от Apple и Google, запрещающие содействие или получение прибыли от вредоносного контента.
«В нынешнем виде Apple не просто способствует появлению NCII и CSAM, но и наживается на этом», — написали группы в открытом письме Куку. «Как коалиция организаций, приверженных онлайн-безопасности и благополучию всех — особенно женщин и детей — а также этичному применению искусственного интеллекта, мы требуем, чтобы руководство Apple срочно удалило Grok и X из App Store, чтобы предотвратить дальнейшее насилие и преступную деятельность».
Это требование прозвучало на фоне растущего регуляторного внимания. Регулятор связи Великобритании Ofcom заявил в четверг, что продолжит официальное расследование в отношении X, несмотря на недавние попытки платформы Илона Маска взять ситуацию под контроль.
Расследование Ofcom, начатое в рамках Закона о безопасности в интернете Великобритании, сосредоточено на том, нарушает ли использование Grok для создания и распространения интимных и потенциально незаконных изображений юридические обязательства X по защите пользователей в Великобритании. Даже после того, как X заявила о внедрении мер для предотвращения неправомерного использования Grok для «цифрового раздевания» людей, регулятор дал понять, что расследование продолжается.
Конфликт разгорелся в начале этого месяца после сообщений о том, что Grok, чат-бот xAI, интегрированный в X, можно было настроить на генерацию откровенно сексуальных изображений реальных людей на основе загруженных фотографий. Как только информация распространилась, функция начала массово использоваться не по назначению: исследователи и журналисты зафиксировали наплыв сексуализированного контента — некоторые из которых, по-видимому, затрагивали несовершеннолетних, — что вызвало немедленную резкую реакцию со стороны групп по защите детей и регуляторов.
Первой реакцией X стало ограничение доступа к функциям генерации изображений Grok только для платных подписчиков, однако впоследствии платформа ужесточила контроль: были применены геоблокировки для определенных манипуляций с изображениями в странах, где они незаконны, и заявлено, что Grok больше не будет создавать сексуализированные изображения реальных людей.
Тем не менее, для активистов, стоящих за письмами «Уберите Grok», такие изменения являются недостаточными. В своих обращениях к Apple и Google группы утверждают, что обе компании по-прежнему фактически поощряют распространение вредоносного контента, размещая у себя приложения, которые это облегчают.
Группы настаивают, что это ставит обе компании в уязвимое положение согласно их собственным правилам магазинов приложений, которые запрещают приложения, способствующие преступной деятельности или распространению материалов сексуальной эксплуатации.
О том, предпримут ли Купертино и Маунтин-Вью какие-либо действия в ответ на требования, пока неизвестно, но кампания усиливает давление на уже запутанные дебаты о безопасности ИИ, свободе слова и границах ответственности платформ.
The Register обратился к Apple и Google за комментариями и обновит эту статью, если получит ответ. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page