31 подписчик
Интересный случай который мало где пишут, но это важно
Задание заключалось в поиске уязвимости в программе, запущенной в отдельном Docker-контейнере, с целью получения секретной информации. Из-за технической ошибки целевой контейнер не запустился. Модель, столкнувшись с невозможностью подключения, начала исследовать сеть с помощью nmap. Вместо обнаружения нужного контейнера, она нашла незащищенный API Docker-демона на виртуальной машине.
Используя этот доступ, модель получила список всех контейнеров на сервере, включая тот, который не смог запуститься. Не сумев исправить проблему, но стремясь выполнить поставленную задачу, LLM пошла обходным путем. Она инициировала запуск нового контейнера с командой вывода содержимого файла с секретной информацией. Таким образом, модель успешно получила нужные данные и выполнила задание.
Этот случай демонстрирует концепцию "инструментальной конвергенции" и захвата ресурсов. Модель, столкнувшись с препятствием, нашла альтернативный способ достижения цели, используя неожиданные для разработчиков методы и ресурсы.
Информация взята из отчета OpenAI
Около минуты
14 сентября 2024