Американская компания Anthropic анонсировала созыв представителей политических кругов, исследователей и гражданского общества для выработки ответов на риски ускоряющегося прогресса ИИ. В том же заявлении компания поставила вопрос о возможности временной паузы в развитии технологии.
Заявление вышло одновременно с публикацией отчета о продвижении модели Claude в направлении рекурсивного самоулучшения — способности ИИ-систем самостоятельно создавать более мощные версии самих себя — и на той же неделе, что Anthropic подала заявку на IPO с потенциальной оценкой компании в $1 трлн.
В опубликованном материале Anthropic зафиксировала тенденцию роста возможностей Claude, которая при достаточных вычислительных ресурсах может, по оценке компании, привести к созданию системы, способной автономно проектировать собственного преемника. Такой сценарий квалифицируется как потенциальная угроза утраты людьми контроля над ИИ-системами.
Читайте также
Anthropic тайно подала заявку на IPO, опередив OpenAI
Параллельно Financial Times сообщила, что Anthropic разместила своих инженеров непосредственно внутри Агентства национальной безопасности США: по данным издания, они помогают АНБ использовать модель Mythos в наступательных операциях в сфере кибербезопасности.
Конкретным результатом работы Claude стал показатель, который Anthropic раскрыла в своем отчете: по состоянию на май 2026 года более 80% кода, вносимого в кодовую базу компании, написано самой моделью. По словам разработчиков, Claude также может управлять направлением исследований и предлагать собственные эксперименты, однако сторонние эксперты уточняют: речь идет о задачах программирования в строго ограниченных условиях, а не о рекурсивном самоулучшении в полном смысле этого термина.
Профессор Университетского колледжа Лондона Стивен Мердок оценил заявление Anthropic сдержанно: по его словам, ничего принципиально нового в отчете нет, а стратегия привлечения внимания политиков воспроизводит подход, которого компания придерживается с момента основания.
«Их определение безопасности ИИ — узкое. Поддержка американских властей в развитии наступательных возможностей никогда не была тем, против чего они выступали», — отметил эксперт, указывая на очевидное противоречие между призывом к паузе и работой на разведывательное сообщество США.
Два месяца назад Anthropic анонсировала модель Mythos, не выпустив ее в открытый доступ под предлогом проблем кибербезопасности: объявление привлекло внимание министра финансов США Скотта Бессента и британской разведки MI5. Сообщалось, что новая модель нашла критические уязвимости в ряде операционных систем и библиотек, которые позволяли получать полный контроль над устройством стороннего пользователя.
Читайте также
Anthropic нашла более 10 тыс. опасных уязвимостей с помощью Claude Mythos
Ряд наблюдателей рассматривает сочетание публичных предупреждений о рисках ИИ с коммерческой и государственной экспансией как устойчивую стратегию компании: декларируемая озабоченность безопасностью одновременно выполняет репутационную и лоббистскую функцию. По словам Мердока, возможности ИИ сегодня растут без очевидного предела, но на сегодняшний день нет каких-то новых факторов, из-за которых кто-то из компаний мог бы прислушаться к просьбе Anthropic.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.