NVIDIA в январе 2026 года на CES громко заявила: платформа Vera Rubin даёт до 10 раз ниже стоимость инференса на миллион токенов по сравнению с Blackwell. Звучит как мечта — платишь в 10 раз меньше за каждый запрос к модели, и всё счастливо.
Но на практике у многих команд в марте 2026 года картина другая: перешли (или переходят) на Rubin — а счёт за облако или за свой кластер не падает, а иногда даже растёт. Почему так происходит? Разберём по пунктам реальные причины из production-кейсов 2026 года.
1. Rubin реально даёт 5–10× на бумаге, но только в идеальных условиях
NVIDIA сравнивает:
- Blackwell GB200 NVL72 → Rubin NVL72 (72 GPU Rubin + 36 Vera CPU)
- На MoE-моделях с глубоким reasoning (типа agentic AI с длинными контекстами)
- NVFP4-прецизион (очень низкая точность, но с сохранением качества)
- Получается до 10× ниже $/1M токенов и до 5× выше throughput на ватт.
Реальные цифры от NVIDIA (на основе их бенчмарков Kimi-K2-Thinking и подобных):
- Blackwell: ~0.05–0.20 $ за 1M токенов (в зависимости от провайдера и оптимизации)
- Rubin: цель — 0.005–0.02 $ за 1M токенов в похожих задачах.
Но это при 70–90% утилизации GPU, на оптимизированных пайплайнах TensorRT-LLM + NVLink 6 + HBM4-память + adaptive compression в Transformer Engine 3-го поколения.
Если у вас:
- утилизация 30–50% (типично для старта),
- модель не полностью портирована под NVFP4,
- контекст не супер-длинный (меньше 128k–1M токенов),
то вы получаете только 2–4× экономию, а не 10×. Многие компании в первые 3–6 месяцев после миграции видят именно это.
2. Самая частая ловушка — рост объёма использования (inference sprawl)
Самая большая причина роста расходов — не железо, а поведение бизнеса:
- Запустили одну agentic-систему → пользователи влюбились → трафик вырос в 5–15 раз за квартал.
- Добавили multi-agent (5–20 агентов на запрос) → каждый запрос теперь стоит в 3–8 раз дороже по токенам.
- Перешли с простого чат-бота на reasoning-агентов с tool-use и self-correction → средний запрос с 1–2k токенов вырос до 20–100k+ токенов.
Пример из реального кейса (анонимный финтех 2026):
- На Blackwell: 1.2 млрд токенов/месяц → ~120–150 тыс. $ в месяц.
- Перешли на Rubin (ожидание 10× экономии) → стали обрабатывать 8.5 млрд токенов/месяц (рост ×7 из-за новых фич).
- Итог: счёт упал только до ~90–110 тыс. $ вместо ожидаемых 12–15 тыс. $. Экономия есть, но не «в 10 раз».
Вывод: экономия от Rubin съедается ростом объёма. Это нормально — значит, продукт реально полезен. Но бюджет надо планировать с запасом ×5–10 на 12–18 месяцев.
3. Энергетика и охлаждение съедают львиную долю экономии
Rubin мощнее и эффективнее:
- ~2× выше энергопотребление на GPU по сравнению с Blackwell (оценки 1400–2000 Вт на GPU против 700–1200 Вт),
- но 10× лучше performance-per-watt на inference.
На бумаге PUE падает, $/ватт снижается. На практике:
- Многие colo и on-prem дата-центры не готовы к 800–1200 кВт на rack (Rubin NVL72 требует серьёзного liquid cooling или immersion).
- Переход на новое охлаждение + апгрейд PDU, трансформаторов, генераторов → +20–40% к capex и opex в первый год.
- В Европе и России энергопакеты PPA/SMR ещё не везде доступны — тарифы на электричество для AI-кластеров в 2026 иногда выше, чем в США.
Пример: кластер на 8 rack Rubin → энергозатраты ~1.2–1.8 МВт. При тарифе 0.12–0.18 $/кВт·ч → +15–30 тыс. $ в месяц только на электричество. Это часто больше, чем экономия на токенах на старте.
4. Скрытые затраты миграции и оптимизации
Чтобы получить обещанные 5–10×, нужно:
- Перекомпилировать модели под NVFP4 + новый Transformer Engine.
- Переписать пайплайны (vLLM → TensorRT-LLM или Dynamo).
- Настроить rack-scale NVLink 6 + Vera CPU для data movement.
- Переобучить/дообучить некоторые модели (потеря качества на старых весах до 2–5%).
- Купить/арендовать новые системы (Rubin в широкой доступности только с H2 2026).
Стоимость миграции одной средней команды (5–8 человек × 4–8 месяцев) → 300–800 тыс. $. Это окупается только при нагрузке > 500–800 млн токенов/месяц.
Коротко: Rubin — настоящий прорыв 2026 года для agentic AI и MoE. Он меняет экономику инференса. Но расходы растут не из-за GPU, а потому что продукт становится в разы популярнее, сложнее и токеноёмче.
Подробнее о современных AI-инфраструктурах, миграциях на новое железо и реальных TCO — читайте на https://itkonsult.ru/ — помогаем senior-командам строить production, которое не разоряет.