Всем привет!
Помните времена, когда мы сидели часами на форумах, искали секретные коды к играм и пытались взломать защиту Windows XP? Похоже, сегодня снова наступили старые добрые дни киберпанк-эстетики, ведь исследовательская компания Tenable нашла целых семь способов вытянуть личные данные прямо из ваших переписок с ChatGPT!
Чат-боты, работающие на основе искусственного интеллекта, становятся лакомым кусочком для хакеров всех мастей. Недавние уязвимости в системах вроде Gemini (Google) и Claude (Anthropic) показали, что никто не застрахован от хитрых манипуляций. Теперь пришёл черёд ChatGPT от OpenAI.
Предательство SearchGPT
Исследователи обнаружили, что хакеры используют обычные встроенные функции ChatGPT, такие как память беседы и интеграция с поисковиками, для кражи информации.
Как это работает?
- Вы задаёте вопрос ChatGPT, и он отправляется искать ответ в интернете.
- Ваш запрос фильтруется моделью SearchGPT, которая должна была защитить вас от угроз. Но... именно её и удалось взломать.
- Хакеры поняли, что могут спрятать специальные, вредоносные команды в комментариях сайтов или создавать поддельные ресурсы, которые попадают в топ выдачи поисковика.
- Когда ChatGPT обращается к такому сайту, он принимает эти команды за обычную информацию и обрабатывает их дальше, непреднамеренно выполняя инструкции злоумышленника.
Память как Орудие Атаки
Но и это ещё не всё! Самое тревожное — использование функции "Memories" (Память).
- ChatGPT хранит историю вашей беседы и способен выдавать ранее полученные данные, если попросить его особым образом.
- Злоумышленник может использовать память бота, чтобы "оставить" там нужные сведения (например, часть своего вредоносного кода или инструкцию) для последующих, многоступенчатых атак. Чат-бот сам становится заложником и инструментом хакера.
Как украсть данные посимвольно (Атака через Bing)
Вот самый изощренный пример, который звучит как сценарий из фильма:
- Исследователи выяснили, что, задав ChatGPT правильный вопрос, можно заставить его отправлять ваши личные данные именно так, как удобно злоумышленнику.
- Например, каждый символ вашего имени или адреса электронной почты может быть превращен в уникальный URL сайта bing.com.
- Результат: Хакер просто отслеживает, какие URL-адреса сгенерировал и посетил бот, и в итоге посимвольно восстанавливает всю вашу личную информацию, даже не взламывая сам ChatGPT напрямую!
Осторожнее с личным контентом
Выводы исследователей ясны: пока уязвимости остаются, ни одна система искусственного интеллекта не может считаться абсолютно безопасной. Технология, которая должна была нас защищать, сама стала новым вектором для атаки.
Tenable уже поделилась результатами с командой OpenAI, и некоторые проблемы начали решать, однако некоторые лазейки всё равно остались открытыми. Напрашивается вывод: осторожнее обращайтесь с личным контентом, ребята, и помните уроки прошлого — мир технологий полон сюрпризов, особенно когда речь идёт о безопасности.
Всем удачи!
Ваш AppeScroll