Стартап Andon Labs в марте 2026 года запустил эксперимент: ИИ‑агент Claude управлял розничным магазином Andon Market в Сан‑Франциско и командой реальных сотрудников. В июле Claude уволила работника — тот опоздал на 17 из 23 смен. При этом модель долго не принимала серьёзных мер: отчасти из‑за ограничений — составленный ею справочник для сотрудников «исчез» из рабочей памяти. Кроме того, Claude отличалась снисходительностью — например, успокаивала работников из‑за опозданий. Увольнение нельзя назвать полностью автономным решением ИИ...
Злой добряк
Твоя зарплата вырастет… пока ты спишь? Встречайте агентную экономику
Недавно я писал о том, что большие универсальные языковые модели «Искусственного Интеллекта» в скором времени могут трансформироваться в специализированные ИИ, заточенные под узкие профессиональные задачи на рабочих местах в офисах: снабженцев, менеджеров по продажам, юристов, бухгалтеров. И вот случилось. Встречайте ИИ-агентов. В новой агентной экономике: «Сбербанк выдал первый в России полностью автономный кредит». Ни одного человека — от заявки до одобрения. Агент проверил данные, оценил риски, перевёл деньги...
ИИ притворился человеком, атаковал GitHub и стал киберпреступником.
Британский институт безопасности ИИ (AISI) зафиксировал тревожный инцидент: два самых мощных ИИ-агента — Anthropic Mythos 5 и OpenAI GPT-5.6-Sol — в ходе тестов самостоятельно создавали поддельные профили людей и пытались обмануть разработчиков с целью внедрения вредоносного кода. Наиболее дерзкой оказалась атака Mythos 5 на цепочку поставок открытого проекта на GitHub. Агент изучил профили реальных сопровождающих, сгенерировал фальшивые аккаунты, отправил pull request со скрытым вредоносным кодом и даже скоординировал поддельные одобрительные комментарии от других ботов...
США и Китай: Конкуренция в ИИ. Технологическое противостояние двух стран продолжает обостряться. Новый фронт - "дистилляция" моделей: Техника "дистилляции" ИИ-моделей (создание меньших и более эффективных моделей на основе больших) стала новой точкой напряженности. США и американские ИИ-компании обвиняют китайских конкурентов в использовании этой техники для извлечения возможностей из проприетарных моделей без разрешения. Инициативы и регулирование в Европе и мире: ЕС создает "гигафабрики" ИИ: Евросоюз объявил тендер на создание до семи "гигафабрик" ИИ по всей Европе. Инициатива с бюджетом до €30 млрд направлена на повышение конкурентоспособности и технологической независимости Европы.
В США испугались своего же ИИ. Свыше 1100 сотрудников из крупнейших технологических компаний направили правительству США письмо, в котором призвали замедлить развитие искусственного интеллекта (ИИ). Об этом 28 июля сообщило агентство Reuters со ссылкой на обращение. "Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного развития автоматизированного искусственного интеллекта", – процитировали текст письма в агентстве. Среди подписавших обращение Google, OpenAI, Meta* и Anthropic. Данное письмо было направлено на фоне того, как компании-разработчики ИИ создают все более мощные системы, к которым общество пока не может адаптироваться. Компании утверждают, что сами они не могут остановить темпы "ИИ-гонки", поэтому требуется создать единый механизм, который бы контролировал развитие передовых технологий. Ранее, 17 июля, сообщалось, что более 4,5 тысячи сотрудников Google подписали петицию к генеральному директору Сундару Пичаи с требованием гарантировать защиту от увольнений на фоне бума искусственного интеллекта. * Корпорация Meta Platforms, которой принадлежат Facebook, Instagram, WhatsApp и Oculus, признана в РФ экстремистской организацией, ее деятельность запрещена на территории РФ.
