Недавнее исследование, проведённое группой изучения киберугроз Sysdig (TRT), выявило новую разновидность кибератак, получившую название LLMjacking. В рамках таких атак хакеры используют украденные облачные учётные данные для кибернападений на облачные службы больших языковых моделей (LLM).
По словам экспертов, в отличие от предыдущих «стандартных» киберугроз в отношении систем искусственного интеллекта на базе LLM, которые были сосредоточены на оперативном злоупотреблении и изменении данных обучения, атака LLMjacking направлена на продажу доступа к большим языковым моделям другим киберпреступникам.
«Злоумышленники находят больше способов использовать модели ИИ, чем мы изначально ожидали. Это открытие ещё раз доказывает, что злоумышленники являются новаторами — это свидетельство того, что им не просто нужны данные, которые вы передаёте в LLM, им также нужен доступ к вашим магистрам права», — рассказала Кристал Морин, стратег по кибербезопасности в Sysdig.
В описываемом случае хакеры украли облачные учётные данные, чтобы получить доступ к облачной среде, где они нацелились на локальные модели LLM, размещённые у облачных провайдеров. Например, они нацелились на модель LLM Claude (v2/v3) от Anthropic, которая, если её оставить незамеченной, может привести к тому, что жертва будет тратить более 46 000 долларов США на использование LLM в день.
«Использование LLM обходится дорого. Злоумышленники могут использовать ресурсы LLM — задавая вопросы и получая ответы — за ваши деньги по самым разным причинам. Они могут задавать вопросы, пытаясь получить ваши конфиденциальные данные, разработать вредоносный код или найти уязвимости. Варианты на данный момент безграничны», — добавила Кристал Морин.
Исследователи Sysdig также обнаружили доказательства использования обратного прокси-сервера для доступа к скомпрометированным учётным записям. Более того, злоумышленники продемонстрировали интерес к доступу к моделям LLM в различных сервисах, используя инструменты для проверки учётных данных десяти различных сервисов искусственного интеллекта, включая, среди прочего, AWS Bedrock, Azure и GCP Vertex AI.
Полная версия отчёта здесь.
Оригинал публикации на сайте CISOCLUB: "Sysdig: хакеры в рамках атак LLMjacking используют украденные облачные учётные данные".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.
