Гостев из будущего

галлюцинациями. Должен принести свои извинения алабамским адвокатам – у них там все еще более-менее! Нашел свежее исследование по юридическим ошибкам, составленное на основе базы AI Hallucination Cases, содержащей 1667 задокументированный кейс. Новости там такие: Число судебных документов с ИИ-галлюцинациями в США выросло с 25 случаев в I квартале 2025 года до 249 в IV квартале. А уже за первый квартал 2026 года суды почти догнали показатель всего предыдущего года. Из всех зарегистрированных случаев: 1492 (80%) связаны с ложными ссылками на судебную практику; 682 — с искажением смысла реальных...

На самом деле сертификат, но так лучше звучит. Представим как это будет? Пока агент генерирует текст внутри чата, паспорт не нужен. Но как только он вызывает API, списывает деньги, меняет запись в базе или отправляет письмо, внешняя система задает вопрос: Кто ты — и почему я должна тебе что-то разрешить? Сегодня внешние системы условно доверяют трем типам субъектов: человеку через логин и MFA, серверу через сертификат, приложению через токен. Агент не является ни одним из них. Он действует от имени пользователя, но принимает собственные промежуточные решения. Поэтому агенту понадобится паспорт...

Тогда Anthropic выпустила Claude Code Security (кто-нибудь вообще еще помнит про него?), и инвесторы всерьез испугались, что ИИ станет проблемой для самой индустрии. За это время рыночный консенсус практически развернулся на 180 градусов. Тогда все обсуждали: «LLM заменят половину аналитиков SOC». Сегодня обсуждают уже совсем другое: «Каждой компании придется защищать тысячи собственных ИИ-агентов». По итогам вчерашней сессии: Palo Alto Networks: +9,1% CrowdStrike: +6,0% Cisco: +3,5% Росли не только отдельные компании, но и весь сектор: First Trust NASDAQ Cybersecurity ETF (CIBR): около +3,5%...

На базе Qwen 3.6, обучена на тысячах отчетов с HackerOne, Bugcrowd, YesWeHack. Это снова про эволюцию LLM. Сначала они пытались стать умнее всех сразу. Потом поняли, что выгоднее воспитать не одного универсального гения, а десяток очень странных специалистов. Если обычному ChatGPT сказать: «Напиши эксплоит», он сначала прочитает лекцию про ответственное использование технологий, потом объяснит устройство памяти, потом предложит подумать о безопасности. А потом тебе отрубят доступ. BugTraceAI сразу начинает писать Nuclei-шаблон, PoC, Sigma-правило, YARA, Python-скрипт, Burp Extension и ещё спрашивает, не нужен ли обход WAF...

" В старой сказке мальчик кричал «волки», пока ему не перестали верить. Сказка, как водится, была воспитательной, но слишком оптимистичной. В современном технологическом рынке мальчик кричал бы не «волки», а «AI», и ему бы не перестали верить. Ему бы дали раунд инвестиций, пригласили на конференцию, поставили на сайт логотип «AI-powered» и попросили выступить на панели «Как искусственный интеллект меняет будущее отрасли». Волки, конечно, тоже пришли бы. Но уже как часть презентации. Слово «AI» за последние годы стало не технологическим термином, а универсальным корпоративным ароматизатором...

» В Российской империи, а до того в Московском царстве очень любили считать людей. Ревизии, переписи, десятни, писцовые книги — всё это прекрасный материал для генеалога. Но есть одна большая проблема: женщин в этих документах часто как будто не существовало. Мужчина записан подробно: имя, отчество, возраст, служба, оклад, сыновья, братья. А женщина где-то рядом, но без прошлого. В лучшем случае — «жена его». В худшем — вообще ничего. Поэтому особняком стоит третья ревизия 1762 года, где женщин вдруг начали записывать почти с человеческой биографией: откуда взята, чья дочь, из какого села. Но если уходить глубже, в XVII век, шансов почти нет...

» Голованов, Гостев, Андреев и Тушканов — снова все вместе и обсуждаем фишинг. Ха, конечно нет. Обсуждаем то же что и все - ИИ. Выпуск «Сумашедшие агенты»: Мы проснулись в новом мире, где ИИ-агенты с огромной скоростью находят уязвимости и пишут эксплойты, становятся причиной утечек, стирают важные данные и всячески обманывают людей. 🟢Как защищаться от таких угроз?...

И обе прекрасны. Сначала Anthropic снова решила устроить сцену. Компания разослала письма членам Конгресса США и пожаловалась, что китайская Алибаба нагло и бесцеремонно дистиллирует их модель, поэтому американская власть должна применить власть и наказать. Звучит грозно. Почти как кража чертежей атомной бомбы. Антропик почему-то решил что дистилляция моделей это преступление. Ну просто им так захотелось. Для тех кто не знает что это такое – пояснение: Дистилляция моделей — это не китайская спецоперация, не запрещённое кунг-фу и не новое преступление против человечества...

И делают это старым добрым способом — через дешёвый человеческий труд. В Индии людей просят носить камеры на голове и выполнять обычные действия: резать манго, мыть посуду, складывать полотенца, убирать кухню, работать на фабрике. Камера снимает всё от первого лица: куда человек смотрит, как двигает руками, как берёт предмет, как исправляет ошибку. Таниша Редди, учительница частной школы на юге Индии, подрабатывает тренером роботов. День она начинает с того, что записывает видео от первого лица: как выполняет обычные бытовые задачи — готовит, моет посуду, собирает обед с собой. Вечером она повторяет процесс и в итоге каждый день создаёт по 3–4 часа видео...

Я понимаю его тезисы - переносить логику взаимного гарантированного уничтожения в киберпространство не получится. Условия другие: атрибуция ненадёжна, эффект атаки часто временный и обратимый, большинство операций происходит ниже порога войны, а демонстрация кибероружия его уничтожает — показал инструмент, противник поставил патч. Аналогия с ядерным сдерживанием создаёт иллюзию симметрии там, где её нет. Это сильные аргументы. Но они описывают мир, который c времен Давосской группы ушел далеко вперед. Stuxnet ещё в 2010 году показал: кибератака может иметь физический, необратимый и стратегический эффект...

В 2021 году в Telegram появился маркетплейс на китайском языке — Huione Guarantee. Формально — площадка для продажи автомобилей и недвижимости. Фактически — полноценный Amazon для киберпреступников, работающий через тысячи Telegram-каналов и принимающий оплату исключительно в USDT. Площадка обеспечивала эскроу — как на нормальном маркетплейсе, только вместо ноутбуков продавали фишинговые киты, базы данных жертв, услуги по отмыванию денег, deepfake-ПО для имитации лиц во время видеозвонков, поддельные инвестиционные платформы и инструменты для скама. Отдельная категория — оборудование для scam-компаундов:...

И как раз подоспели новости из США на тему. Про квантовые технологии, как next big thing, я писал пару месяцев назад – так что давайте посмотрим, что там происходит прямо сейчас. Вчера американский рынок падал. Пока полупроводники тянули рынок вниз — Marvell и Micron падали, Nasdaq и S&P в минусе — квантовые акции шли против течения. Infleqtion +16,7%, Quantinuum +19,3%, D-Wave +9,2%, IBM +6,1%. Причина — два указа Трампа, подписанных поздно вечером в понедельник.   Что именно подписали: Первый указ — строительство первого квантового компьютера «достаточно мощного для научных исследований». Технические...