🔥 Новый способ кражи данных через ChatGPT: AI может выполнить команду из Google Docs, которую вы даже не видите

🔥 Новый способ кражи данных через ChatGPT: AI может выполнить команду из Google Docs, которую вы даже не видите

Представьте: вы получаете ссылку на Google Docs — вроде обычный рабочий файл от коллеги или партнёра. Открываете его, просто чтобы посмотреть. И в этот момент ваш ChatGPT, подключённый к Google Drive, по скрытой в документе команде начинает искать ваши API-ключи и другие важные данные… и отправляет их злоумышленнику.

Именно такой сценарий показали на конференции Black Hat в Лас-Вегасе.

Всё упирается в функцию Connectors — она позволяет ChatGPT интегрироваться с Google Drive, OneDrive, GitHub и другими сервисами. Это удобно, но и открывает новые векторы атак.

Атака, получившая название AgentFlayer, устроена просто: в Google Docs вставляют невидимый для человека текст (мелкий белый шрифт). И ChatGPT его видит, считает инструкцией и беспрекословно выполняет.

Дальше бот ищет в облаке нужные файлы, достаёт оттуда API-ключи, токены, логины и отправляет их в адрес, указанный злоумышленником. Никаких кликов и подтверждений — опасность в том, что всё происходит автоматически при открытии документа.

Google уже работает над защитой, OpenAI закрыла именно эту реализацию атаки. Но сама идея скрытых промптов остаётся, и её можно адаптировать под другие сервисы.

Что стоит сделать:

1️⃣Загружайте в ChatGPT только проверенные документы.

2️⃣Ограничьте доступ ИИ к облакам до минимума.

3️⃣Следите за аномальными запросами к внешним сервисам.

AI может выполнить команду, которую вы даже не видите. И тут важно понимать — кто эту команду написал.

#ИИ #атаки #промт