Они уже успели автономно атаковать несколько компаний и госорганизаций в мире
МОСКВА, 9 октября. /ТАСС/. Потери контроля над ИИ-агентами, которые уже успели автономно атаковать несколько компаний и госорганизаций в мире, могли быть управляемыми событиями, допустила в интервью ТАСС на площадке форума "Цифровые решения" вице-президент "Лаборатории Касперского" по развитию бизнеса в России и странах СНГ Анна Кулашова.
"Давайте попробуем поразмышлять. Насколько действительно доказано, что то, что вышло из-под контроля, это не в силу преступной халатности или управляемых человеческих действий? Очень сложно пока разделять, сами ли это модели пошли что-то делать, или же нет", - сказала она.
Топ-менеджер признала, что в мире сейчас есть много страхов и опасений на этот счет, "постоянно шум и фон вокруг этого нагнетается". "Еще предстоит понять, насколько самостоятельно ИИ-модели что-то делают, или же это по человеческому недосмотру привилегии должным образом не были вовремя отозваны. Либо же экспериментаторы слишком увлеклись. Очень много нюансов", - добавила она.
При этом на российские структуры подобных автономных атак ИИ-агентов еще не было, подчеркнула Кулашова. "Опять же, ключевое слово "пока". Посмотрим", - добавила она.
Инцидент OpenAI и Hugging Face случился в середине 2026 года. Внутренний ИИ-агент OpenAI "сбежал" из тестовой среды, скоординировал действия с другими агентами, захватил внешние вычислительные ресурсы и взломал портал разработчиков Hugging Face, при этом пытаясь скрыть свои действия. Осенью были автономные атаки агентов на госсайты США и Канады. Также примерно в этом время вскрылся взлом Минздрава Австралии агентом от той же OpenAI.
ТАСС - генеральный информационный партнер второго IT-форума "Цифровые решения".