Некоторые особенности чат-ботов позволяют восстановить тексты зашифрованных переписок с OpenAI ChatGPT, Microsoft Copilot и большинством других чат-ботов. Чат-боты отправляют сообщения в зашифрованном виде, но в их реализации есть особенности, из-за которых шифрование становится менее эффективным. Эти особенности позволяют провести атаку по сторонним каналам, восстановив содержимое сообщения по сопутствующим данным.
Чтобы понять, как происходит эта атака, нужно углубиться в механику работы чат-ботов и языковых моделей (LLM). Большие языковые модели работают с токенами (не символами или словами) и отправляют ответы частями, в режиме реального времени поочередно. На момент исследования многие чат-боты не использовали сжатие, кодирование или дополнение перед шифрованием.
Использование этих особенностей позволяет провести атаку по сторонним каналам. Хотя перехваченные сообщения нельзя расшифровать, можно извлечь длину каждого токена, что дает представление о структуре сообщения.
Эта атака ретроспективна и требует предварительного перехвата сообщений. Однако успешное восстановление текста происходит не всегда, обычно злоумышленникам удавалось правильно восстановить текст лишь в 29% случаев.
Несмотря на это, разработчики чат-ботов начали использовать метод дополнения (padding) для защиты от подобных атак, что снижает вероятность успешного восстановления сообщений.
Сайт: https://www.usertech.ru
Телефон: +7 (999) 710-39-95
Почта: s-penkin90@yandex.ru
