Anthropic призывает правительства блокировать опасный ИИ. CEO Дарио Амодеи возобновил этот призыв, пока Apollo, Blackstone и Broadcom анонсировали платформу для финансирования Anthropic на $35 млрд и 1 ГВт мощностей. — techtimes.com
Anthropic хочет, чтобы правительства имели возможность блокировать передовые системы ИИ, создание которых сочтено слишком опасным. 10 июня, когда генеральный директор Дарио Амодеи вновь озвучил этот аргумент, группа, включающая Apollo, Blackstone и Broadcom, представила финансирующую платформу, нацеленную на привлечение около 35 миллиардов долларов для обеспечения Anthropic выделенной вычислительной мощностью свыше 1 гигаватта.
Это различие — не просто история о корпоративном лицемерии. Оно вскрывает механизм, удерживающий сторонников безопасности ИИ из Кремниевой долины в гонке ускорения: замедление в одиночку приведет к потере рыночных позиций, не остановив конкурентов, в то время как долгосрочное финансирование инфраструктуры затрудняет коллективное сдерживание с каждым новым заказом на центры обработки данных и чипы.
Anthropic заявляет, что правительствам может понадобиться право остановить опасный ИИ
Амодеи заявил, что правительства должны иметь возможность не позволять компаниям создавать системы, которые считаются слишком опасными, согласно интервью Axios от 10 июня. Его позиция основана на программном эссе, в котором утверждается, что правительствам следует готовиться к возможному скоординированному замедлению, если появятся доказательства того, что риски передового ИИ стали неприемлемыми.
Важное слово здесь — коллективный. Структура политики ИИ Амодеи не призывает Anthropic прекратить разработку Claude, пока конкуренты продолжают. Она требует обязательного тестирования и полномочий правительства блокировать или сдерживать опасное развертывание, рассматривая риск передового ИИ как проблему коллективных действий.
Политика ответственного масштабирования (Responsible Scaling Policy) Anthropic следует той же логике. Она связывает более строгие меры безопасности с возможностями моделей и пороговыми значениями риска, а не обещает немедленно остановить разработку.
Это делает позицию Anthropic внутренне последовательной, но также выявляет ее слабость. Каждая крупная лаборатория ИИ может утверждать, что сдерживание необходимо только тогда, когда одинаковые правила распространяются на всех серьезных конкурентов.
Частный кредит превращает потребность Anthropic в вычислительных мощностях в инфраструктуру
Apollo, Blackstone, Broadcom и инвесторы в инфраструктуру создали платформу, предназначенную для финансирования крупных проектов в области вычислительного ИИ. Ожидается, что первая объявленная сделка предоставит Anthropic более 1 гигаватта выделенных вычислительных мощностей с использованием чипов Broadcom.
Платформа стремится привлечь около 35 миллиардов долларов в виде долговых обязательств, в то время как более широкая структура рассчитана на поддержку проектов с мощностью более 20 гигаватт к 2028 году, согласно сообщению Axios.
Anthropic не берет всю сумму напрямую в долг. Специально созданная компания закупает чипы и сопутствующее оборудование, а затем сдает вычислительные мощности в аренду ИИ-компании. Кредиторы финансируют активы под долгосрочные обязательства клиентов.
Эта структура напоминает проектное финансирование электростанций и телекоммуникационных сетей. Она преобразует будущую потребность Anthropic в вычислениях в актив, который сегодня может служить обеспечением для долга. Broadcom получает крупного заказчика чипов, кредиторы — долгосрочную инфраструктурную экспозицию, а Anthropic — доступ к большим вычислительным мощностям без необходимости финансировать полное строительство авансом.
Почему Anthropic не может просто замедлиться самостоятельно?
Разработка передового ИИ создает классическую проблему коллективных действий. Anthropic может считать, что высокопроизводительные системы могут потребовать паузы, но остановка в одиночку может стоить компании клиентов, исследователей, доходов и влияния на стандарты безопасности, не снижая темпов развития у OpenAI, Google, Meta*, xAI или зарубежных лабораторий.
Техническая экономика усиливает это давление. Обучение и обслуживание передовых моделей требуют больших кластеров современных ускорителей, соединенных высокоскоростными сетями и снабжаемых огромным количеством электроэнергии. Фиксированные затраты высоки, но как только мощности установлены, у компаний есть сильный стимул поддерживать их загрузку тренировочными циклами и рабочими нагрузками инференса.
Долгосрочная аренда и долговые обязательства добавляют еще один уровень. Замедление затронет не только команды исследователей ИИ. Оно может нарушить предположения о погашении, заказы на чипы, соглашения об электроснабжении, строительство центров обработки данных и доходность инвесторов.
В этом заключается основной парадокс статьи: защитники безопасности могут искренне желать обязательных ограничений, но при этом действовать как ускорители, пока эти ограничения не введены.
Apollo и Broadcom демонстрируют экономическое обоснование ускорения
Apollo, Blackstone, Broadcom и инвесторы в инфраструктуру, присоединившиеся к платформе, представляют самый ясный аргумент в пользу ускорения через свои капитальные обязательства. Они рассматривают будущий спрос на ИИ как достаточно большой и устойчивый, чтобы обеспечить финансирование на десятки миллиардов долларов, специализированные чипы и долгосрочную аренду.
Структура предполагает, что разработчики моделей будут продолжать нуждаться в большем количестве вычислений, а установленные мощности будут приносить доход с течением времени. Это также показывает, почему ограничения, принятые одной компанией или страной, могут перенаправить инвестиции и возможности в другое место, а не снизить глобальное развитие.
Предложение Anthropic признает, что сдерживание ИИ не может основываться на добрых намерениях. Оно потребует обязательного тестирования, измерительных систем и координации, достаточной для предотвращения бесконтрольного выхода опасных систем на рынок.
Это оставляет правительствам два сложных вопроса: должны ли компании, занимающиеся передовым ИИ, помогать определять правила, регулирующие их собственное расширение, и не будут ли системы соблюдения требований отдавать предпочтение крупнейшим лабораториям, поскольку они могут позволить себе расходы, недоступные более мелким конкурентам?
Настоящая битва за безопасность ИИ смещается от моделей к вычислениям
Расширение Anthropic показывает, что дебаты о безопасности ИИ превращаются в состязание за физическую инфраструктуру, а не за заявления о принципах.
Передовой ИИ зависит от концентрированных поставок чипов, электроэнергии, сетевого оборудования и капитала. Эти зависимости создают возможные точки принуждения к исполнению. Правительства могли бы потребовать отчетности по крупным вычислительным кластерам, отслеживать передачу передовых чипов, предписывать оценки или ограничивать доступ, когда системы пересекают определенные пороговые значения риска.
Та же инфраструктура создает сопротивление замедлению. По мере того как производители чипов, коммунальные службы, операторы центров обработки данных, фирмы частного кредитования и институциональные инвесторы получают финансовую заинтересованность в росте ИИ, число сторон, заинтересованных в продолжении ускорения, растет.
Таким образом, Anthropic не находится вне системы ускорения, призывая всех остальных остановиться. Она помогает строить эту систему, одновременно утверждая, что правительствам может в конечном итоге понадобиться полномочие для ее ограничения.
Это напряжение не доказывает неискренность ее позиции в отношении безопасности. Оно демонстрирует, почему добровольное сдерживание, вероятно, не сработает. Главный вопрос заключается в том, смогут ли правительства установить надежные пороговые значения и механизмы координации до того, как инфраструктурные обязательства сделают значительное замедление экономически и политически невозможным.
Эта статья не является инвестиционной рекомендацией.
Часто задаваемые вопросы
Почему Anthropic просит правительства сдерживать передовой ИИ?
Anthropic утверждает, что передовые модели должны проходить обязательное тестирование, и что правительства должны иметь возможность блокировать или сдерживать развертывания, представляющие неприемлемые риски. Ее позиция сосредоточена на принудительных правилах, а не на просьбе к одной компании остановиться в одиночку.
Берет ли Anthropic 35 миллиардов долларов напрямую в долг?
Нет. Объявленная платформа стремится привлечь около 35 миллиардов долларов в виде долговых обязательств для инфраструктуры ИИ, в то время как специально созданная компания, как ожидается, закупит оборудование и сдаст вычислительные мощности в аренду Anthropic.
Сколько новых вычислительных мощностей планируется для Anthropic?
Ожидается, что первая объявленная сделка обеспечит расширение Anthropic более чем на 1 гигаватт выделенных вычислительных мощностей. Более широкая финансирующая платформа рассчитана на поддержку более 20 гигаватт к 2028 году.
Почему финансирование вычислений затрудняет замедление ИИ?
Крупные вычислительные проекты создают долгосрочные обязательства, затрагивающие кредиторов, производителей чипов, центры обработки данных, коммунальные службы и клиентов. Как только вложены миллиарды долларов, все больше учреждений получают экономический интерес в поддержании роста спроса на ИИ и разработок.
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Eloise Jones