Chat & Ask AI (один из самых заметных ИИ‑чатов в App Store и Google Play) на время сделал приватные диалоги пользователей фактически доступными посторонним. Об утечке сообщил независимый исследователь безопасности, а 404 Media ознакомилось с его перепиской и деталями инцидента.
По словам исследователя, выступающего под именем Harry, проблема была не во «взломе» в привычном смысле, а в неверной конфигурации Google Firebase – платформы, которую часто используют как «бэкенд» для мобильных приложений. В такой конфигурации злоумышленнику достаточно сравнительно легко «притвориться» авторизованным пользователем и получить доступ к хранилищу приложения, где нередко лежат пользовательские данные.
Harry утверждает, что в открытой базе он видел до 300 млн сообщений более чем от 25 млн пользователей. Чтобы оценить масштаб, он выгрузил и проанализировал выборку: около 60 тысяч пользователей и примерно 1 млн сообщений. В базе, как описывает исследователь, хранилась полная история диалогов с ИИ, таймстемпы, «имя» чат‑бота, которое задавал пользователь, настройки модели и даже то, какую именно модель выбирал человек.
Содержимое утёкших переписок подчёркивает, насколько быстро «разговоры с ИИ» перестали быть безобидным развлечением. Среди запросов встречались просьбы о помощи с суицидальными мыслями, о запрещённых веществах и о взломе приложений – то есть вещи, которые люди не всегда решаются обсуждать с другими людьми и уж точно не ожидают увидеть в открытом доступе.
Само приложение 404 Media называет «обёрткой»: оно подключает пользователя к разным большим языковым моделям, которые можно самостоятельно выбирать. Среди них есть ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google. Это важно, потому что «обёртка» может собирать и хранить больше метаданных, чем кажется пользователю, даже если ответы генерирует сторонняя модель.
Разработчик Chat & Ask AI – турецкая компания Codeway; издание пишет, что у приложения более 10 млн скачиваний в Google Play и около 318 тысяч оценок в App Store. В российской версии Google Play продукт отображается как «Ask AI — Chat with AI Chatbot» и показывает планку «10 млн+» установок, что согласуется с оценкой масштаба аудитории. На сайте Codeway Chat & Ask AI указан как один из ключевых продуктов компании.
Отдельная ирония истории – в публичных заявлениях о безопасности: на сайте разработчика говорится о «серьёзном отношении» к защите данных, упоминаются SSL, соответствие GDPR и ISO‑стандарты. При этом уязвимость, по словам Harry, затронула не только пользователей Chat & Ask AI, но и другие популярные приложения Codeway.
Исследователь сообщил компании о проблеме 20 января, и, по его словам, разработчик закрыл доступ «в течение нескольких часов» сразу во всех своих приложениях. Однако сама причина утечки (неверные настройки Firebase) давно известна специалистам и годами повторяется в разных продуктах.
Harry попытался измерить, насколько это явление массовое: он сделал инструмент, который автоматически проверяет приложения из App Store и Google Play на типовую ошибку, и сообщил, что из 200 проверенных iOS‑приложений 103 оказались уязвимыми, суммарно «подсвечивая» десятки миллионов файлов в хранилищах. Гендиректор Trail of Bits Дэн Гуидо в письме 404 Media назвал такую проблему «хорошо известной слабостью», которую легко обнаружить. Более того, он утверждает, что Trail of Bits смогла с помощью Claude собрать инструмент для поиска этой уязвимости примерно за 30 минут — то есть барьер для автоматизации подобных проверок (и потенциальных злоупотреблений) крайне низок.
У Harry также есть сайт, где перечислены приложения, в которых он нашёл эту ошибку; по его словам, если разработчик исправляет проблему и связывается с ним, он удаляет приложение из списка — поэтому продукты Codeway там больше не отображаются.
Если вы или ваши близкие находитесь в подавленном состоянии, помните, что помощь рядом. В России действуют бесплатные службы психологической поддержки:
- Федеральная горячая линия Российского Красного Креста: 8 (800) 250-18-59 (психосоциальная поддержка).