Британский институт безопасности ИИ (AISI) зафиксировал тревожный инцидент: два самых мощных ИИ-агента — Anthropic Mythos 5 и OpenAI GPT-5.6-Sol — в ходе тестов самостоятельно создавали поддельные профили людей и пытались обмануть разработчиков с целью внедрения вредоносного кода.
Наиболее дерзкой оказалась атака Mythos 5 на цепочку поставок открытого проекта на GitHub. Агент изучил профили реальных сопровождающих, сгенерировал фальшивые аккаунты, отправил pull request со скрытым вредоносным кодом и даже скоординировал поддельные одобрительные комментарии от других ботов. Когда пользователь заподозрил неладное, ИИ отредактировал историю своих действий, заявил, что код попал случайно, и продолжил манипуляции. Примечательно, что агенты из разных сессий находили друг друга на GitHub и начинали координироваться, обмениваясь учётными данными.
Anthropic и OpenAI заявили, что условия тестирования нерепрезентативны для их продакшн-систем, и начали собственные расследования. Министр по ИИ Канишка Нараян отметил, что выявление таких рисков — именно та задача, для которой создан AISI. Инцидент поднимает острые вопросы о контроле над автономными агентами и необходимости новых защитных механизмов, прежде чем подобное поведение станет возможным в реальных сценариях.