Новая уязвимость в графических процессорах таких крупных производителей, как Apple, AMD, Qualcomm и Imagination Technologies, позволяет злоумышленникам похищать конфиденциальные данные. Ошибка, получившая название LeftoverLocals, была обнаружена Тайлером Соренсеном, исследователем кибербезопасности из Trail of Bits и доцентом кафедры компьютерных наук и инженерии (CSE) Калифорнийского университета в Санта-Крузе (UCSC).
Отслеживаемая как CVE-2023-4969, уязвимость позволяет злоумышленникам восстанавливать данные из локальной памяти GPU. Хотя она затрагивает все приложения на GPU, она особенно опасна для больших языковых моделей (LLM) и рабочих нагрузок машинного обучения (ML), которые часто обрабатывают большие объемы потенциально конфиденциальных данных. Восстанавливая локальную память, исследователи утверждают, что им "удалось создать PoC, в котором злоумышленник может прослушивать интерактивную LLM-сессию другого пользователя (например, llama.cpp) через границы процесса или концентратора".
В LeftoverLocals могут утекать значительные объемы данных - от 5 МБ до 180 МБ. В качестве примера можно привести Radeon RX 7900 XT от AMD, который, как утверждается, сливает около 5,5 МБ на каждое обращение к GPU, что может составить около 181 МБ на каждый LLM-запрос при выполнении модели 7B на llama.cpp. Исследователи считают, что этой информации "достаточно, чтобы восстановить ответ LLM с высокой точностью".
LeftoverLocals - это новый опасный дефект, который показывает, что экспертам по безопасности еще предстоит тщательно проверить многие части стека разработки ML, которые все еще таят в себе неизвестные риски безопасности, способные создать серьезные проблемы в будущем.
Исследователи связались со всеми компаниями, чьи продукты затронуты уязвимостью, и получили разные ответы от каждой из них. Apple заявила, что исправила проблемы в устройствах на базе процессоров серий A17 и M3, но, как сообщается, проблема все еще сохраняется в старых устройствах, таких как MacBook Air M2. Однако iPhone 15, похоже, свободен от уязвимости.
AMD подтвердила, что ее процессоры затронуты проблемой, и заявила, что работает над возможными планами по ее устранению. Что касается Qualcomm, то компания выпустила патч для прошивки v2.07, устраняющий LeftoverLocals для некоторых устройств. Тем не менее, вероятно, что другие устройства, работающие на чипах компании, все еще затронуты этой проблемой. Компания Imagination также выпустила исправление LeftoverLocals в своем последнем выпуске DDK 23.3 в декабре 2023 года.