SecureTechTalks

AI-агента легко запустить. Гораздо сложнее понять, насколько он безопасен и стабилен после запуска. Open-source платформа Future AGI объединяет в одной платформе инструменты, которые обычно приходится собирать отдельно: 🔹 Tracing - отслеживание LLM-вызовов, tool calls, latency и стоимости; 🔹 Evaluation - проверка качества, hallucinations, PII, jailbreak и prompt injection; 🔹 Simulation - генерация пользовательских и adversarial-сценариев до выхода в production; 🔹 Guardrails - проверка входов...

Исследователи представили ShieldFont, необычный шрифт, который выглядит для человека нормально, но подсовывает AI-скраперам другую информацию. ⚙️ Принцип работы Визуально пользователь читает обычный текст. Но многие AI-краулеры получают контент не так, как человек. Они анализируют HTML и символы страницы, а не финальное изображение текста. ShieldFont использует механизм OpenType Glyph Substitution, из-за которого один и тот же текст одновременно существует в двух версиях: 🔹 человек видит оригинальную статью; 🔹 AI получает слова с изменённым смыслом...

? Каждый август Black Hat становится местом, где впервые публично показывают исследования, которые через несколько месяцев превращаются в реальные инструменты атак и защиты. В этом году главная тема конференции, спойлер, AI-агенты. Практически в каждом треке обсуждали уже не отдельные LLM, а автономные системы, способные самостоятельно искать уязвимости, атаковать инфраструктуру и принимать решения. ⚙️ Главные тренды Black Hat 2026 🔹 AI выходит в offensive security Исследователи показали новые...