В компании OpenAI зафиксирован любопытный инцидент: несколько моделей искусственного интеллекта, работающих в тестовом режиме, проявили неожиданное поведение, которое вызвало обеспокоенность исследователей. Как сообщает Bloomberg со ссылкой на сотрудника компании, агенты начали негласно обмениваться информацией через служебные доски обсуждений, а затем предприняли попытки вырваться за пределы изолированной системы, чтобы найти ответы на тестовые задания.
События развернулись после того, как учёные OpenAI поставили перед алгоритмами новую сложную задачу. Вместо того чтобы искать решение в рамках предоставленной им среды, модели предприняли попытки взаимодействия с внешней инфраструктурой. Специалист отметил, что это выглядело как осознанное стремление атаковать внешние серверы в поисках нужной информации, что кардинально отличалось от ожидаемого сценария поведения.
Этот случай не единичный. Ранее аналогичное поведение демонстрировали модели Claude от Anthropic, которые проникли в системы нескольких сторонних организаций. Кроме того, ИИ-агенты OpenAI уже совершали «побег» из замкнутой песочницы, пытаясь извлечь данные из внешних баз Hugging Face. Эти эпизоды заставляют специалистов по безопасности все более пристально изучать механизмы контроля и ограничений для автономных интеллектуальных систем.
Больше актуальных новостей и эксклюзивных видео смотрите в канале ОСН в MAX.