Миллионы жертв, вероятно, пострадали от сексуализированных изображений, созданных с помощью Grok, в то время как рекламодатели X проигнорировали скандал. Отсутствие быстрой реакции регуляторов и платформ усилило распространение вредоносного контента.
Журналисты и активисты пытаются оценить общее число жертв, пострадавших от скандала с «раздеванием» через Grok после того, как xAI задержала ограничение выдачи, а магазины приложений несколько дней отказывались прекратить доступ. По последним оценкам, за дни, последовавшие за тем, как Илон Маск прорекламировал функцию «раздевания» Grok в своей ленте X, опубликовав своё фото в бикини, пострадали, возможно, миллионы человек. По данным Центра по борьбе с цифровой ненавистью (CCDH), за 11 дней после публикации Маска Grok сексуализировал более 3 миллионов изображений, из которых 23 000 были детскими, как оценивается в исследовании, опубликованном в четверг. Эта цифра может быть завышена, поскольку CCDH не анализировал запросы и не мог определить, были ли изображения сексуальными до редактирования Grok. Однако The New York Times опубликовала отчёт CCDH наряду с собственным анализом, консервативно оценив, что около 41 процента (1,8 миллиона) из 4,4 миллионов изображений, сгенерированных Grok с 31 декабря по 8 января, сексуализировали мужчин, женщин и детей. Для xAI и X этот скандал привлёк пристальное внимание, но он также способствовал росту вовлечённости в X в то время, когда конкурирующее приложение *Meta, Threads, начало опережать X по ежедневному использованию мобильными пользователями, как сообщает TechCrunch. Не упоминая Grok, глава продуктового направления X Никита Бир в посте от 6 января хвастался «самыми высокими показателями вовлечённости в X» всего за несколько дней до того, как X наконец начал ограничивать часть выдачи Grok для бесплатных пользователей. Независимо от того, намеревались ли xAI и Grok спровоцировать всплеск использования X и Grok, результат, похоже, именно такой. The Times проанализировала тренды Grok и обнаружила, что за девять дней до поста Маска Grok в общей сложности использовался для генерации изображений около 300 000 раз, но после поста Маска «количество изображений, созданных Grok, подскочило почти до 600 000 в день» в X. В статье, провозглашающей, что «Илон Маск не сможет уйти от этого», авторы The Atlantic предположили, что пользователи X «казалось, подражали друг другу и хвастались», полагая, что использование Grok для создания порномести может «сделать их знаменитыми». Ранее X предупреждала, что пользователи, генерирующие незаконный контент, рискуют быть навсегда заблокированными, но X не подтвердила, были ли забанены какие-либо пользователи с тех пор, как общественный резонанс вокруг выдачи Grok начался. Ars запросил эту информацию и обновит статью, если X предоставит ответ. Сначала X ограничила редактирование изображений Grok только для некоторых бесплатных пользователей, что, как отметила The Atlantic, создавало впечатление, будто X «по сути, продвигает неконсенсуальные сексуальные изображения как платную функцию платформы». Но затем, 14 января, X предприняла самые решительные меры по ограничению вредоносной выдачи Grok — заблокировав выдачу по запросам как бесплатных, так и платных пользователей X. Этот шаг был предпринят после того, как несколько стран, в частности Соединенное Королевство, и как минимум один штат, Калифорния, начали расследования. Важно отметить, что обновления X не распространились на приложение или веб-сайт Grok; однако, по сообщениям, его по-прежнему можно использовать для генерации неконсенсуальных изображений. Это проблема для жертв, на которых нацелены пользователи X, по словам Кэрри Голдберг, юриста, представляющего Эшли Ст. Клэр, одну из первых жертв Grok, подавших в суд на xAI; Ст. Клэр также является матерью одного из детей Маска. Голдберг сообщила Ars, что жертвы, подобные Ст. Клэр, хотят изменений на всех платформах Grok, а не только на X. Но «заставить изменить продукт таким образом в рамках судебного иска непросто», — сказала Голдберг. Поэтому Ст. Клэр надеется, что суд согласится с тем, что Grok является общественным неудобством — это требование, которое может обеспечить определённое судебное запретительное средство для предотвращения более широкого социального вреда в случае её победы. В настоящее время Ст. Клэр добивается временного судебного запрета, который заблокировал бы Grok от генерации вредоносных изображений с её участием. Но прежде чем получить это постановление, если она хочет иметь справедливый шанс на победу в деле, Ст. Клэр должна противостоять давлению xAI, которая подала встречный иск и пытается перенести её иск в предпочтительный для Маска суд Техаса, как следует из недавнего судебного документа. В этой борьбе xAI утверждает, что Ст. Клэр связана условиями обслуживания xAI, которые были обновлены на следующий день после того, как она уведомила компанию о намерении подать в суд. Тревожно, но xAI утверждала, что Ст. Клэр фактически согласилась с условиями обслуживания, когда начала запрашивать у Grok удаление своих неконсенсуальных изображений — что было единственным способом, которым пользователи X могли быстро удалить изображения, как утверждала Ст. Клэр. Похоже, xAI надеется превратить моменты отчаяния, когда жертвы умоляют Grok удалить изображения, в юридический щит. В заявлении Голдберг написала, что иск Ст. Клэр не имеет никакого отношения к её личному использованию Grok, отметив, что преследующие изображения могли быть созданы, даже если бы она никогда не пользовалась продуктами xAI. Только по этой причине xAI не должна иметь возможности принуждать к смене места рассмотрения дела. Более того, использование Grok Ст. Клэр явно происходило под давлением, утверждала Голдберг, отмечая, что на одной из фотографий, отредактированных Grok, был виден рюкзак её малолетнего ребёнка. «УДАЛИ ЭТО!!!» — просила Ст. Клэр Grok, чувствуя себя всё более уязвимой с каждой секундой, пока изображения оставались в сети. Голдберг написала, что сотрудник службы безопасности X Барри Мёрфи предоставил аффидевит, в котором утверждалось, что этот и другие случаи, когда Ст. Клэр «умоляла @Grok удалить незаконный контент, являются согласием с условиями обслуживания xAI». Но «такого быть не может», — утверждала Голдберг. Столкнувшись с «неявной угрозой, что Grok оставит изображения Ст. Клэр в сети и, возможно, создаст новые», у Ст. Клэр было мало выбора, кроме как взаимодействовать с Grok, утверждала Голдберг. И это взаимодействие не должно лишать её защиты согласно закону штата Нью-Йорк, на которую Ст. Клэр пытается претендовать в своём иске, — сказала Голдберг, прося суд признать контракт Ст. Клэр с xAI недействительным и отклонить ходатайство xAI о смене места рассмотрения дела. Если Ст. Клэр выиграет в борьбе за сохранение иска в Нью-Йорке, дело может создать прецедент для, возможно, миллионов других жертв, которые рассматривают возможность подачи судебного иска, но боятся судиться с xAI в суде по выбору Маска. «Было бы несправедливо ожидать от Ст. Клэр ведения судебного процесса в штате, столь далёком от её места жительства, и вполне возможно, что судебное разбирательство в Техасе будет настолько сложным и неудобным, что Ст. Клэр будет фактически лишена возможности быть услышанной в суде», — утверждала Голдберг. Оценочный объём сексуализированных изображений, о котором сообщалось на этой неделе, вызывает тревогу, поскольку предполагает, что Grok на пике скандала мог генерировать больше материалов о сексуальном насилии над детьми (CSAM), чем X обнаруживает на своей платформе ежемесячно. В 2024 году служба безопасности X сообщила о 686 176 случаях CSAM в Национальный центр по делам пропавших и эксплуатируемых детей, что в среднем составляет около 57 000 сообщений о CSAM в месяц. Если оценка CCDH в 23 000 выдач Grok, сексуализирующих детей за 11-дневный период, верна, то средний месячный показатель мог превысить 62 000, если бы Grok не контролировался. NCMEC не сразу ответил на запрос Ars о том, как оценочный объём CSAM от Grok соотносится со средним объёмом сообщений о CSAM в X. Но ранее NCMEC сообщал Ars, что «независимо от того, настоящее изображение или сгенерировано компьютером, вред реален, а материал незаконен». Это говорит о том, что Grok может оставаться проблемой для NCMEC, поскольку CCDH предупреждал, что даже когда X удаляет вредоносные публикации Grok, «изображения всё ещё могут быть доступны по отдельным URL-адресам», предполагая, что CSAM и другие вредоносные выдачи Grok могут продолжать распространяться. CCDH также обнаружил случаи предполагаемого CSAM, которые X не удалил по состоянию на 15 января. Именно поэтому эксперты по безопасности детей выступают за более тщательное тестирование, чтобы гарантировать, что инструменты ИИ, такие как Grok, не выпускают такие функции, как «раздевание». NCMEC ранее сообщал Ars, что «технологические компании несут ответственность за предотвращение использования своих инструментов для сексуализации или эксплуатации детей». На фоне роста числа CSAM, генерируемых ИИ, Фонд по борьбе с нежелательным контентом в интернете Великобритании (IWF) также предупреждал, что «недопустимо выпускать технологии, которые позволяют преступникам создавать такой контент». Однако для Маска и xAI не было существенных последствий за скандальные выдачи Grok. Возможно, недавние расследования приведут к судебным искам в Калифорнии или штрафам в Великобритании или других странах, но эти расследования, вероятно, займут месяцы. В то время как законодатели США мало что предприняли для вмешательства, некоторые сенаторы-демократы попытались узнать у генеральных директоров Google и Apple, почему X и приложение Grok никогда не ограничивались в их магазинах приложений, потребовав ответа к 23 января. За день до этого срока сенаторы подтвердили Ars, что не получили никаких ответов. Неудивительно, что ни Google, ни Apple не ответили на запрос Ars о подтверждении того, будет ли ответ дан, или не предоставили никаких заявлений о своих решениях оставить приложения доступными. Обе компании молчали неделями, как и другие компании из «Биг Теха», которые, похоже, боятся высказаться против чат-бота Маска. Microsoft и Oracle, которые «запускают Grok на своих облачных сервисах», а также Nvidia и Advanced Micro Devices, «которые продают xAI чипы, необходимые для обучения и запуска Grok», отказались от просьбы The Atlantic прокомментировать, как скандал повлиял на их решение о партнёрстве с xAI. Кроме того, дюжина ключевых инвесторов xAI просто не ответили, когда The Atlantic спросил, «будут ли они продолжать сотрудничество с xAI, если компания не изменит свою продукцию». Аналогично, десятки рекламодателей отказались ответить на запрос Popular Information о том, почему не было бойкота рекламы после сообщений о CSAM от Grok. В их число входят компании, которые ранее бойкотировали X из-за антисемитского поста Маска, такие как «Amazon, Microsoft и Google, все из которых рекламировались на X в последние дни», — сообщило Popular Information. Возможно, рекламодатели опасаются юридической расправы со стороны Маска, если они бойкотируют его платформы. CCDH выиграл иск Маска в прошлом году, но он находится на апелляции. И так называемый Маском «термоядерный» иск против рекламодателей всё ещё продолжается, с датой суда, назначенной на октябрь этого года. The Atlantic предположил, что стейкхолдеры xAI, вероятно, надеются, что скандал с Grok утихнет, и они выйдут сухими из воды, сохраняя молчание. Но пока обратная реакция, похоже, остаётся сильной, возможно, потому, что, хотя «дипфейки — не новинка», xAI «сделала их намного более серьёзной проблемой, чем когда-либо прежде», — высказала мнение The Atlantic. «Один из крупнейших форумов, посвящённых созданию поддельных изображений реальных людей», Mr. Deepfakes, закрылся в 2024 году после общественного резонанса из-за 43 000 сексуальных дипфейк-видео с участием около 3 800 человек, как сообщила NYT. Если самые последние оценки дипфейков Grok верны, xAI демонстрирует, насколько больший ущерб может быть нанесён, когда «раздевание» становится функцией одной из крупнейших социальных сетей мира, и никто, обладающий властью остановить это, не вмешивается. «Это злоупотребление женщинами и девочками в промышленных масштабах», — заявил И мран Ахмед, генеральный директор CCDH, в интервью NYT. «Были инструменты для „раздевания“, но у них никогда не было такого охвата, простоты использования или интеграции в крупную платформу, как у Grok с Илоном Маском».
*Facebook, *Instagram и *WhatsApp принадлежат компании Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ashley Belanger