Рубрика: Провал недели
Пока весь мир возмущался Grok, Apple и Google тихо зарабатывали на десятках таких же приложений. 705 миллионов скачиваний. $117 миллионов выручки. И 30% комиссии в карман сторов.
Что случилось
Организация Tech Transparency Project провела расследование и обнаружила в магазинах приложений более 100 так называемых nudify-приложений — программ, которые с помощью AI «раздевают» людей на фотографиях, создавая реалистичные интимные изображения без согласия.
В Google Play нашли 55 таких приложений. В App Store — 47. Все они прошли модерацию и были доступны миллионам пользователей.
После того как исследователи связались с компаниями, Apple удалила 28 приложений, Google — 31. Но вот что интересно: часть приложений Apple вернула обратно после того, как разработчики «исправили нарушения». Что именно они исправили в приложении для создания порнографии без согласия — загадка.
Почему это важно
Масштабы впечатляют. По данным аналитической компании AppMagic, эти приложения суммарно скачали более 705 миллионов раз. Они принесли разработчикам $117 миллионов выручки. А поскольку Apple и Google берут комиссию до 30% с покупок внутри приложений, корпорации заработали на этом около $35 миллионов.
Другими словами: пока BigTech рассказывает о безопасности и приватности пользователей, их бизнес-модель напрямую зависит от распространения инструментов для насилия.
И это не абстрактная угроза. Расследование CNBC задокументировало случай в Миннесоте, где более 80 женщин стали жертвами — их публичные фотографии из социальных сетей пропустили через такие сервисы для создания интимных изображений без их ведома и согласия.
14 приложений из списка оказались китайскими. А по законам Китая, все данные компаний доступны правительству. То есть если кто-то создал ваш дипфейк через такое приложение — эти изображения потенциально могут оказаться в руках китайских спецслужб.
Что это значит для нас
Скандал с Grok, о котором я писал две недели назад, оказался верхушкой айсберга. Тогда xAI хотя бы отреагировала на критику (пусть и неуклюже). А Apple и Google годами получали деньги с приложений, которые напрямую нарушали их собственные правила.
Самый абсурдный момент: если в App Store ввести запрос «nudify», первым органическим результатом выпадает Grok. А до расследования Apple ещё и показывала платную рекламу nudify-приложения по этому же запросу. То есть компания не просто закрывала глаза — она активно продвигала такой контент.
Некоторые из этих приложений имели возрастной рейтинг 4+ и 9+. Приложения для создания порнографических изображений маркировались как подходящие для детей.
Для российских пользователей это ещё один аргумент в пользу того, что «проверенные» магазины приложений — не гарантия безопасности. Ни App Store, ни Google Play не защитят вас от того, что ваши фотографии используют для создания дипфейков. Модерация работает только когда журналисты начинают задавать неудобные вопросы.
Мнение редакции
Меня бесит не сам факт существования таких приложений — в интернете всегда найдётся способ сделать гадость. Меня бесит лицемерие.
Apple годами строит маркетинг на приватности. «What happens on your iPhone stays on your iPhone». Google рассказывает о миллиардных инвестициях в безопасность. А на практике обе компании заработали десятки миллионов долларов на инструментах для создания неконсенсуального порно — и начали что-то делать только после того, как журналисты буквально ткнули их носом в проблему.
Причём даже сейчас десятки аналогичных приложений остаются в сторах. Удалили 28 и 31 — а было 47 и 55. Остальные, видимо, достаточно «исправились».
Знаете, что это напоминает? Историю с санкционными приложениями. Когда нужно было заблокировать приложения из России или Ирана — модерация справилась за дни. А когда речь идёт о защите женщин от сексуального насилия — ну, это сложно, нужно провести расследование, дать разработчикам шанс исправиться.
$35 миллионов. Столько стоит безопасность пользователей для компаний, которые вместе стоят три триллиона долларов.
Если тема AI-безопасности и регулирования BigTech вам интересна — подписывайтесь. Я слежу за тем, как технологии влияют на нашу жизнь, и не стесняюсь называть вещи своими именами.