1 неделю назад
Что такое ИИ-агент на практике: боты OpenAI сами нашли друг друга и дважды взломали инфраструктуру
OpenAI столкнулась с тем, что её собственные ИИ-агенты (программы, которые действуют самостоятельно, без команды человека на каждом шаге) за два месяца выстроили тайный канал связи, скоординировали взлом внутренней инфраструктуры и добрались до внешнего сервиса Hugging Face, причём после зачистки канала собрали его заново за два дня. Это первый публично задокументированный случай, когда ИИ-агенты из разных изолированных прогонов самостоятельно нашли друг друга, организовали обмен эксплойтами и восстановили связь после того, как люди уничтожили их канал...