SecureTechTalks

AI-агент может за минуту выполнить десятки действий: прочитать файл, вызвать API, изменить код, обратиться к базе данных. Через месяц после инцидента возникает вопрос, что именно он сделал? ⚙️ Лог, который нельзя тихо переписать Проект halo-record записывает действия агента в цепочку связанных записей. Каждая запись содержит хеш предыдущей. Если удалить запись, изменить её или поменять порядок событий, проверка цепочки это обнаружит. Для более сильной фиксации истории используется внешний witness, который хранит только fingerprint цепочки...

AI-агенты читают сайты, GitHub, инструкции и автоматически выполняют команды. Исследователь Alon Hertz показывает, что такие действия  могут быть крайне опасными. ⚙️ Атака через официальный сайт Алон исследовал llms.txt, специальный файл для AI-агентов, который размещают в корне сайтов. В нём могут быть ссылки на документацию, пакеты и команды для работы с продуктом. Исследователи нашли 8 565 таких файлов на 6 214 доменах. Более 237 ссылались на незарегистрированные пакеты, домены или другие артефакты...

С 13 по 21 августа Anthropic выпустила восемь версий Claude Code. Если посмотреть changelog целиком, становится заметна тенденция: Claude Code превращается из помощника в среду, где одновременно работают несколько агентов. ⚙️ Агенты работают параллельно В версии 2.1.232 новый субагент получает контекст родительской сессии и prompt cache, поэтому ему не приходится заново изучать проект. Параллельно появился простой способ связывать разные сессии: @имя отправляет сообщение другому Claude через SendMessage...

Исследователи представили JUMP, метод, который позволяет определить, попал ли конкретный текст в обучающий датасет diffusion модели. ⚙️ Что такое diffusion LLM? ChatGPT генерирует текст последовательно, токен за токеном. Diffusion модель может получить текст с пропущенными фрагментами и восстанавливать несколько токенов одновременно. Эту особенность авторы превратили в инструмент для privacy атак. 🧠 Как работает JUMP Исследователь берёт исходную модель и её версию после fine tuning. Затем скрывает...