917 подписчиков
Впервые в истории Hugging Face платформу взломала нейросеть. Без человека.
20 июля крупнейший репозиторий ИИ-моделей сообщил о кибератаке, которую целиком провела автономная система. Схема такая: злоумышленники залили на сайт вредоносный датасет, через него ИИ-агенты пролезли во внутренние системы, добрались до облачных хранилищ и нескольких учётных записей.
Живой хакер в процессе не участвовал. Атаку вела программа, которая сама решала, куда идти дальше.
Обнаружила вторжение другая нейросеть, собственная система безопасности Hugging Face. А в компании честно признались: они до сих пор не знают, какая модель их ломала.
Почему это касается вас, а не только безопасников из Кремниевой долины. Раньше многоэтапная атака стоила недели работы дорогого специалиста. Теперь она стоит копейки и идёт со скоростью машины. Порог входа рухнул. Значит, достанется не только Hugging Face, но и вашей CRM, вашему боту в Телеграме и вашему сотруднику, который поставил браузерное расширение с ИИ.
Что сделать на этой неделе:
- посмотреть, какие права реально есть у ваших ИИ-агентов и урезать лишнее
- проверить, не лежит ли API-ключ в открытом виде в переписке или в коде
- завести правило: агент не ходит в продакшн от имени админа
Hugging Face уязвимости закрыл, пароли сменил, защиту усилил. У вас есть шанс сделать это ДО, а не после.
Роботы пока не забрали работу у людей. Только у хакеров.
Поставь 👍 если интересно.
1 минута
21 июля