Гостев из будущего

галлюцинациями. Должен принести свои извинения алабамским адвокатам – у них там все еще более-менее! Нашел свежее исследование по юридическим ошибкам, составленное на основе базы AI Hallucination Cases, содержащей 1667 задокументированный кейс. Новости там такие: Число судебных документов с ИИ-галлюцинациями в США выросло с 25 случаев в I квартале 2025 года до 249 в IV квартале. А уже за первый квартал 2026 года суды почти догнали показатель всего предыдущего года. Из всех зарегистрированных случаев: 1492 (80%) связаны с ложными ссылками на судебную практику; 682 — с искажением смысла реальных...

На самом деле сертификат, но так лучше звучит. Представим как это будет? Пока агент генерирует текст внутри чата, паспорт не нужен. Но как только он вызывает API, списывает деньги, меняет запись в базе или отправляет письмо, внешняя система задает вопрос: Кто ты — и почему я должна тебе что-то разрешить? Сегодня внешние системы условно доверяют трем типам субъектов: человеку через логин и MFA, серверу через сертификат, приложению через токен. Агент не является ни одним из них. Он действует от имени пользователя, но принимает собственные промежуточные решения. Поэтому агенту понадобится паспорт...

Тогда Anthropic выпустила Claude Code Security (кто-нибудь вообще еще помнит про него?), и инвесторы всерьез испугались, что ИИ станет проблемой для самой индустрии. За это время рыночный консенсус практически развернулся на 180 градусов. Тогда все обсуждали: «LLM заменят половину аналитиков SOC». Сегодня обсуждают уже совсем другое: «Каждой компании придется защищать тысячи собственных ИИ-агентов». По итогам вчерашней сессии: Palo Alto Networks: +9,1% CrowdStrike: +6,0% Cisco: +3,5% Росли не только отдельные компании, но и весь сектор: First Trust NASDAQ Cybersecurity ETF (CIBR): около +3,5%...

На базе Qwen 3.6, обучена на тысячах отчетов с HackerOne, Bugcrowd, YesWeHack. Это снова про эволюцию LLM. Сначала они пытались стать умнее всех сразу. Потом поняли, что выгоднее воспитать не одного универсального гения, а десяток очень странных специалистов. Если обычному ChatGPT сказать: «Напиши эксплоит», он сначала прочитает лекцию про ответственное использование технологий, потом объяснит устройство памяти, потом предложит подумать о безопасности. А потом тебе отрубят доступ. BugTraceAI сразу начинает писать Nuclei-шаблон, PoC, Sigma-правило, YARA, Python-скрипт, Burp Extension и ещё спрашивает, не нужен ли обход WAF...

" В старой сказке мальчик кричал «волки», пока ему не перестали верить. Сказка, как водится, была воспитательной, но слишком оптимистичной. В современном технологическом рынке мальчик кричал бы не «волки», а «AI», и ему бы не перестали верить. Ему бы дали раунд инвестиций, пригласили на конференцию, поставили на сайт логотип «AI-powered» и попросили выступить на панели «Как искусственный интеллект меняет будущее отрасли». Волки, конечно, тоже пришли бы. Но уже как часть презентации. Слово «AI» за последние годы стало не технологическим термином, а универсальным корпоративным ароматизатором...