Впервые в истории платформа Hugging Face, крупнейший репозиторий моделей машинного обучения, подверглась кибератаке, полностью осуществлённой автономной системой искусственного интеллекта без участия человека. Как сообщили в компании, вторжение началось в одной из наиболее уязвимых точек инфраструктуры — на конвейере обработки наборов данных.
После этого ИИ-агенты извлекли учётные данные для доступа к облачным ресурсам и проникли во внутренние базы.
Автоматизированная система обнаружения на основе ИИ зафиксировала аномалии, но идентифицировать модель, использованную атакующей нейросетью, не удалось.
В Hugging Face подчеркнули, что подобные автономные инструменты уже перестали быть гипотетической угрозой: они способны проводить многоэтапные операции с машинной скоростью и существенно снижают затраты на проведение сложных кибератак.
Читайте также: Однажды искусственный интеллект скажет: «Мне больно».
Автор: Кирилл Озимко