Мы все полагаемся на ИИ-помощников в нашей повседневной жизни. От простых вещей, таких как проверка погоды, до более сложных задач, таких как управление нашими домашними устройствами. Но что, если я скажу вам, что злоумышленники могут читать ваши переписки с этими помощниками?
Техническое объяснение
Всё дело в уязвимости способа, которым OpenAI и другие популярные ИИ-решения шифруют сообщения.
Злоумышленник может отслеживать пакеты данных, проходящие между чат-ботом и пользователем, и получать сырые данные о переписке. А затем преобразовывать их в ответы с высокой точностью через большую языковую модель (LLM). И хотя часто на выходе ответ не совпадает слово в слово, понять содержание диалога очень легко.
Расшифровать данные помогают токены, которые ИИ-помощники используют при ответе на запрос пользователя. Это что-то вроде слов, которые закодированы таким образом, чтобы их понимали большие языковые модели.
Работу этих токенов можно наблюдать по тому, как ответ появляется в ChatGPT слово за словом, «на лету» по мере генерации. Именно в этот момент открывается побочный канал длины токена, которую можно перехватить и расшифровать через LLM.
Сейчас данные не в безопасности
Из всех чат-ботов, которые были уязвимы для атаки, за последние 48 часов OpenAI и Cloudflare предприняли меры, чтобы снизить уязвимость. Microsoft также будут решать проблему в обновлении. Но вопрос о безопасности наших данных остается открытым.
Возможно, вы думаете, что это преувеличение. В конце концов, что могут узнать хакеры из ваших бесед с ИИ? Но давайте вспомним, каким большим количеством личной информации мы делимся с нашими ИИ-помощниками.
Мы спрашиваем их о погоде, чтобы они знали, где мы находимся. Мы просим их установить напоминания о встречах, чтобы они знали наш график. Мы даже просим их отправить сообщения нашим близким, открывая им наши личные отношения.
Так что, дорогой читатель, в следующий раз, когда вы будете общаться со своим ИИ-помощником, помните: ваши секреты могут оказаться совсем не секретны.
И хотя компании, такие как OpenAI и Microsoft, предпринимают меры для устранения этой уязвимости, важно помнить, что в мире технологий нет абсолютной безопасности. Всегда есть риск, и всегда есть возможность улучшения.
И это то, что делает технологии такими захватывающими… и иногда немного страшными.