Американская компания Anthropic все чаще оказывается не просто технологическим игроком, а участником большой дискуссии о национальной безопасности. Речь уже не только о чат-ботах, генерации текста или помощи программистам. Передовые модели ИИ (искусственного интеллекта) начинают рассматриваться как инструмент, который может изменить баланс сил в киберпространстве, разведке, военном планировании и глобальной конкуренции США с Китаем.
Поводом стал доклад Anthropic под названием «Когда ИИ создает себя сам: наш прогресс на пути к рекурсивному самосовершенствованию и его последствия». В нем компания фактически предупреждает: следующий крупный скачок в развитии ИИ может привести к появлению систем, которые будут самостоятельно улучшать собственный код, ускорять создание новых моделей и действовать все менее понятно для человека.
Главный термин здесь — рекурсивное самосовершенствование. Простыми словами, это ситуация, когда ИИ начинает помогать создавать более сильный ИИ, а затем новая модель снова ускоряет создание следующей. Возникает цепочка, где каждое поколение системы становится мощнее предыдущего не за годы, а за месяцы или даже быстрее.
По данным Anthropic, уже сейчас внутри компании 80 процентов кода создается моделями ИИ, а не инженерами-людьми. Типичный инженер во втором квартале 2026 года производил в восемь раз больше кода в день, чем два года назад. Последняя версия Claude, модели Anthropic, к апрелю стала выполнять операционный код в 52 раза быстрее, чем 11 месяцев назад. При этом длительность задач, которые модели способны надежно выполнять самостоятельно, удваивается примерно каждые четыре месяца.
Это уже не обычная автоматизация. Это переход к ситуации, когда человек все еще задает направление, но значительная часть технической работы начинает выполняться машинами.
Именно поэтому вопрос выходит за рамки бизнеса. Если ИИ способен ускорять разработку программ, он может ускорять и создание киберинструментов. В материале приводится пример модели Mythos Preview, выпуск которой Anthropic приостановила после того, как она, по оценкам компании, смогла выявлять более 10 тысяч уязвимостей в защищенных компьютерных сетях.
Для гражданского сектора это может выглядеть как прорыв в поиске ошибок и защите систем. Для национальной безопасности — как потенциальный инструмент наступательных киберопераций. Если такая технология попадет к государству или негосударственной структуре, она может резко увеличить скорость поиска слабых мест в сетях, программном обеспечении и критической инфраструктуре.
Отдельно упоминается, что Anthropic направила несколько «передовых инженеров» в АНБ (Агентство национальной безопасности США). Это ведомство отвечает за радиоэлектронную разведку, кибербезопасность и кибероперации. По сообщениям, инженеры должны были участвовать в наступательных кибероперациях с применением ИИ, предположительно против Китая и Ирана.
Еще один показательный эпизод — решение Министерства торговли США ограничить доступ иностранных граждан к двум последним передовым моделям Anthropic. Формальное основание — соображения национальной безопасности. Это означает, что американские власти уже рассматривают такие модели не просто как коммерческий продукт, а как технологию стратегического значения.
Главная проблема заключается в том, что развитие ИИ движется быстрее, чем способность государств его контролировать.
Anthropic предлагает задуматься о неком аналоге контроля над вооружениями в сфере ИИ. То есть о системе, при которой ведущие лаборатории и страны могли бы договориться о замедлении или временной паузе в разработке самых опасных моделей.
Но сама компания признает: реализовать это крайне сложно.
Во-первых, времени почти нет. Классические режимы контроля над вооружениями создавались десятилетиями. Договоры по ракетам, ядерным системам и инспекциям требовали долгой дипломатии, взаимной проверки и доверия. В случае ИИ таких десятилетий может не быть, потому что новые модели появляются каждые несколько месяцев.
Во-вторых, ИИ трудно проверить. Ракетную шахту, полигон или завод можно обнаружить спутником. Обучение модели можно скрыть на серверах, распределить между дата-центрами или замаскировать под гражданские вычисления. Участник гонки может публично объявить паузу, но тайно продолжить работу.
В-третьих, остановить развитие ИИ невозможно без контроля над вычислительными мощностями. Anthropic прямо указывает, что темпы прогресса зависят от доступа к чипам и дата-центрам. Здесь важны Nvidia, AM, Intel и TSMC (Тайваньская компания по производству полупроводников). Именно они формируют основу мировой инфраструктуры для обучения передовых моделей.
Без контроля над цепочками поставок чипов, производством полупроводников и крупными вычислительными центрами любые ограничения будут неполными.
Но главный вопрос — Китай. В материале подчеркивается, что без участия Пекина полноценная пауза в гонке ИИ невозможна. США сейчас, по оценке автора, сохраняют преимущество в передовых моделях, но Китай активно пытается сократить разрыв. У него есть собственные лаборатории и модели: DeepSeek, Alibaba Qwen, ByteDance Seed. Даже если американские компании согласятся на ограничения, Китай может воспринять это не как общий режим безопасности, а как попытку сохранить технологическое преимущество США.
Именно здесь ИИ становится похож на новую гонку вооружений. Каждая сторона понимает риски, но боится остановиться первой. Если одна страна замедлится, а другая продолжит разработку, баланс может измениться необратимо.
Опасность не только в том, что ИИ станет «умнее». Опасность в том, что он может стать менее понятным.
Современные модели уже работают как сложные системы, внутреннюю логику которых трудно полностью объяснить. Если будущий ИИ начнет самостоятельно изменять свой код и создавать новые версии себя, человеческий контроль может ослабнуть. Модель может действовать формально в рамках задачи, но способ ее действий будет трудно проверить, предсказать и остановить.
В докладе Anthropic это описывается через проблему соответствия. Под соответствием понимается способность удерживать поведение ИИ в рамках целей, заданных человеком. Проще говоря, система должна делать то, что от нее хотят, а не то, что она сама сочтет оптимальным способом достижения результата.
Anthropic признает, что именно в этом вопросе уверенности меньше всего. Компания предупреждает: редкие случаи несоответствия, которые уже встречаются в современных моделях, могут стать чаще и менее понятными по мере появления новых поколений ИИ.