#Anthropic почему я не удивлена
С интересом слежу за дискурсом вокруг ИИ, вопросами этичности и границ ответсвенности. Вот что предваряло для меня события прошлой недели с Anthropic. И да, нас ждут ещё более захватывающие новости...
2021 — Киссинджер, Шмидт, Хаттенлохер: "The Age of AI". Книга, одна из центральных линий которой — сотрудничество, взаимное усиление человека и ИИ друг другом, институциональные меры и инфраструктура чтобы человек задавал цели, а алгоритмы — исполняли.
2024 — "EU AI Act. Statement on Superintelligence" вступает в силу. Основная идея — контроль и главенство человека над ИИ, поэтапное применение обязательных норм, например, запреты на «недопустимые» практики (deepfakes без маркировки, социальный скоринг государства и т.п.), нормы для провайдеров foundation / general‑purpose AI (включая крупные модели вроде LLM), а также инфраструктура надзора за ИИ.
2025 — Алекс Карп (CEO Palantir): "Технологическая республика". Ее идея в том что, техноэлита должна уйти от обслуживания потребительских рынков к военным технологиям и поддержке государства, а ИИ эффективно контролировать и управлять, конечно лучше чем человек.
2026 — Anthropic в чёрном списке Пентагона.
Компания Anthropic была официально признана Министерством обороны США «угрозой национальной безопасности в цепочке поставок» после конфликта по поводу технических ограничений на военное использование ее моделей ИИ. Эти ограничения звучали примерно так:
1. Claude нельзя использовать для автономных систем оружия без участия человека в процессе принятия решений.
2. Claude нельзя использовать для массовой слежки за гражданами США.
Anthropic настойчиво требует включить в контракт эти положения, ведь существующие возможности ИИ недостаточно безопасны и надежны для таких целей. Пентагон же требует модель, доступную для «всех законных целей», и вынуждал компанию Anthropic снять эти ограничения на использование.
Дарио Амодеи, CEO Anthropic: "Мы не можем по совести согласиться с этим требованием."
После отказа министр обороны Пит Хегсет распорядился, чтобы ни один подрядчик, поставщик или партнер, ведущий бизнес с вооруженными силами США, не мог осуществлять какую-либо коммерческую деятельность с компанией Anthropic, фактически внеся компанию в черный список всей оборонной системы США и, вероятно, большей части федеральных заказов.
Президент Трамп также распорядился, чтобы все федеральные ведомства немедленно прекратили использование технологии Anthropic, предоставив короткий переходный период для ее замены.
В стратегическом плане это может изменить отношения между ИИ и государством: OpenAI и xAI приняли условия Пентагона, соответствующие принципу «всему законному использованию», а OpenAI вскоре после внесения Anthropic в черный список объявила о сделке с Пентагоном по предоставлению моделей для секретных систем, позиционируя себя как поставщика, соблюдающего все требования.
Что ж мы внимательно следим за развитием событий, stay tuned!
