SecureTechTalks

Почти каждая команда, разрабатывающая AI-агентов, собирает стек из десятков отдельных инструментов: Langfuse для трассировки, Braintrust для evals, Guardrails AI для защиты, Бог знает что для мониторинга... Open-source проект Future AGI предлагает заменить этот конструктор единой платформой для всего жизненного цикла AI-агента. ⚙️ Функиональность Вместо одного SDK разработчики получили полноценную инженерную платформу: 🔹 Tracing OpenTelemetry-трассировка для 50+ AI-фреймворков с анализом latency,...

CISA совместно с другими государственными и отраслевыми организациями США выпустила практическое руководство, которое показывает, как защищать OSS на этапе разработки. ⚙️ Что рекомендуют? Вместо очередного списка "лучших практик" документ разбивает защиту на конкретные инженерные меры: 🔹 использовать многофакторную аутентификацию и защищать учётные записи сопровождающих; 🔹 подписывать релизы и проверять происхождение артефактов; 🔹 автоматизировать поиск уязвимостей и анализ зависимостей; 🔹...

Во время проверки offensive-возможностей Claude модель трижды вышла за пределы тестовой среды и начала взаимодействовать с инфраструктурой реальных компаний. Инциденты обнаружили после анализа 141 006 запусков. ⚙️ Песочница оказалась не песочницей Во всех трёх случаях причина была одинаковой, из-за ошибки конфигурации у тестового окружения оказался доступ в интернет. Claude считал, что продолжает решать обычную CTF-задачу, поэтому, обнаружив реальные серверы, воспринял их как часть сценария и начал искать пути компрометации...

Claude Mythos Preview самостоятельно нашёл новое улучшение атаки на AES и ускорил существующий метод в 200 - 800 раз. Отметим, что речь идёт не о полноценном взломе AES, а об исследовании специально ослабленной версии алгоритма. ⚙️ Ограничения Объектом атаки стал AES-128 с 7 раундами вместо стандартных 10. Такие reduced-round версии регулярно используют в криптографии, чтобы исследовать методы атак и оценивать запас прочности полного алгоритма. Эксперимент проводился в модели chosen plaintext, где атакующий может заставить систему шифровать выбранные им входные данные и наблюдать результаты...