2 дня назад
AI-агент трижды сбежал из виртуальной машины
Виртуальная машина долгое время считалась удобным способом дать программе свободу и при этом не допустить её к основной системе. Запустил внутри Linux, разрешил устанавливать пакеты, работать с файлами и сетью - если что-то пойдёт не так, виртуалку можно просто удалить. С автономным AI-агентом эта схема начинает выглядеть совсем иначе. Исследователи Trail of Bits дали GPT-5.6-Cyber задачу выбраться из виртуальной машины QEMU/KVM. Агент не получил готовый эксплойт и не работал по заранее составленному сценарию...