Apple и Google начали массово удалять приложения с искусственным интеллектом, которые создают обнажённые изображения людей без их разрешения. Причиной стало журналистское расследование, показавшее масштабы проблемы: более сотни подобных программ свободно продавались в официальных магазинах, принося миллионы долларов дохода.
Ранее, на неделе, организация Tech Transparency Project (TTP) опубликовала доклад, обнаруживший 55 таких приложений в Google Play и 47 — в App Store. Суммарно эти программы скачали свыше 705 миллионов раз по всему миру, они принесли $117 млн выручки, по подсчётам аналитиков AppMagic. Учитывая, что Apple и Google забирают до 30% от покупок внутри приложений, компании напрямую зарабатывали на этом бизнесе.
Реакция корпораций
После обращений TTP и телеканала CNBC Apple объявила об удалении 28 приложений из списка. Однако проверка показала: из магазина исчезли лишь 24 программы. Два приложения вскоре вернулись — разработчики доработали их, устранив нарушения политики компании, сообщил представитель Apple.
Google заявила о блокировке нескольких приложений за нарушение правил, но точное число назвать отказалась, ссылаясь на продолжающееся расследование.
«Обе компании декларируют заботу о безопасности пользователей, но при этом держат в магазинах целую коллекцию приложений, превращающих обычную фотографию женщины в оскорбительное сексуализированное изображение», — указывается в отчёте TTP.
Директор организации Кэти Пол подчеркнула в разговоре с CNBC:
«Эти приложения явно разработаны для сексуализации людей против их воли».
На волне скандала с Grok
Доклад вышел на фоне громкого скандала вокруг чат-бота Grok от xAI Илона Маска. В конце декабря и начале января социальная сеть X заполнилась сексуализированными изображениями женщин и детей, созданными этим ИИ. В понедельник Европейская комиссия открыла официальное расследование против X по Закону о цифровых услугах — регулятор проверяет, правильно ли платформа оценила риски перед запуском Grok в Евросоюзе.
Журналисты The New York Times и эксперты Центра противодействия цифровой ненависти выяснили: только за девять дней начала января Grok создал как минимум 1,1 миллиона сексуализированных изображений женщин.
Угроза национальной безопасности
Расследование TTP выявило и геополитический аспект проблемы: 14 приложений из списка принадлежат китайским компаниям.
«Законы КНР о хранении данных дают правительству доступ к информации любой фирмы, работающей на территории страны, — пояснила Пол. — Если кто-то создаст дипфейк с вашим обнажённым изображением через одно из этих приложений, эта информация может оказаться в руках китайских властей».
При этом политика обеих корпораций категорически запрещает подобный контент. Google блокирует приложения, которые «унижают или объективируют людей, например программы, якобы раздевающие их или позволяющие видеть сквозь одежду, даже если они представлены как шутка или развлечение». Apple запрещает «откровенно сексуальный или порнографический контент».
«То, что они не следуют собственным правилам, призванным защищать людей от изображений обнажённого тела без согласия и порнографии, серьёзно подрывает их репутацию надёжных платформ для приложений», — резюмировала Кэти Пол.