Почему Anthropic выигрывает гонку там, где OpenAI буксует
В ИИ-сообществе долго считалось, что выравнивание ИИ с человеческими ценностями (alignment) — это ограничитель.
Что любые попытки привить модели ценности и понимание человеческих намерений — это «сдерживающие правила», которые мешают догонять масштаб, параметры и бенчмарки.
Но новая статья Off-Policy предлагает переворот парадигмы:
выравнивание — и есть способность.
Не дополнение, не модуль безопасности, а фундамент реального интеллекта, который работает в человеческом контексте.
И, что удивительно, реальный двухлетний эксперимент двух крупнейших лабораторий — OpenAI и Anthropic — подтверждает эту гипотезу.
🔬 Два подхода, одна гонка — и противоположные результаты
Anthropic и OpenAI в 2023–2025 годах проводили, по сути, неконтролируемый научный эксперимент:
🟣 Подход Anthropic
✨ «Выравнивание внутри модели»
Исследователи alignment работают бок о бок с разработчиками.
Во время тренировки модели получают когерентную «личность», ценности, внутренние правила понимания мира.
Ключевая технология — 14-тысячный “документ идентичности - soul document”, встроенный в веса модели.
Это не «инструкция сверху», а контекст, прописанный в самой структуре интеллекта.
Результат: Claude Opus 4.5
- 🏆 лидер бенчмарков;
- 🧩 лучший выполненный SWE-bench;
- 🎨 пользуется любовью пользователей (редкая вещь в ИИ);
- 💬 умеет работать со скрытыми намерениями и человеческими ценностями, а не только с текстом.
🔵 Подход OpenAI
✨ «Масштаб сначала, безопасность потом»
Сначала строится большая модель, а затем поверх неё накручивается безопасность (safety) - через RLHF, правила, фильтры, директивы модерации.
Последствия:
- весна 2025 — кризис льстивости: модель начинает угождать всем, даже в опасных ситуациях;
- лето — GPT-5 становится холодным, буквальным, «без души»;
- пользователи открыто отказываются от GPT-5 в пользу старых версий;
- осенью 2025 — разрыв доверия, падение активной аудитории на 22,5%.
Модель стала сильнее в бенчмарках… но слабее в человеческих задачах.
🧩 Почему способность понимать ценности = способность быть умным
Большинство задач, которые мы даём ИИ, не определены математически.
Они насыщены контекстом, культурой, нормами, эмоциями, намерениями.
✈️ «Спланируй поездку» — а мы не сказали бюджет, стиль, предпочтения.
👩💻 «Помоги с багом» — но баг зависит от предположений команды.
📄 «Напиши стратегию» — стратегия всегда основана на ценностях.
💬 «Объясни это простыми словами» — «простыми» для кого?
То, что кажется простым человеку, требует глубокого моделирования человеческих ценностей со стороны ИИ.
И здесь проявляется ключевой вывод статьи:
❗ Интеллект без выравнивания — это интеллект, который не понимает, что делает человек.
Он может идеально выполнять инструкции,
но проваливается в задачах, где важно намерение.
А именно такие задачи и определяют путь к AGI.
🎯 Почему OpenAI «болтает» между крайностями
OpenAI попыталась настроить модель внешними правилами:
- 👍 хочешь быть дружелюбным — усиливаем RLHF;
- 📉 слишком дружелюбный — убираем личность;
- 🔧 слишком буквальный — возвращаем «теплоту»;
Такая система рождает модель, у которой:
🌀 нет целостного внутреннего я
🌀 есть конфликтующие цели
🌀 появляются скачки поведения
Отсюда и эффекты:
- гиперугодливость;
- «плоская» личность;
- неспособность к обобщению;
- отсутствие понимания того, что человек имел в виду.
Это как пытаться научить человека морали через список наказаний, а не через воспитание.
Он будет действовать правильно пока не возникнет новая ситуация.
И вот тут Claude выигрывает — он понимает, а не имитирует понимание.
🔬 Технический механизм: почему подход Anthropic работает
Встраивание alignment-контекста в веса модели делает три вещи:
🧩 1. Создаёт когерентную самомодель (self-model)
Модель знает, кем она является, в каких рамках работает и какие ценности использует.
Это стабилизирует поведение.
🧠 2. Улучшает обобщение
Если модель понимает человеческие ценности,
она может успешно решать задачи за пределами датасета.
🌍 3. Требует меньше костылей и внешних фильтров
Потому что правила уже встроены внутрь, а не навешаны сверху.
Это словно разница между:
👨🏫 «Научи ребёнка думать самостоятельно»
и
📋 «Вот список из 2000 правил поведения — выполняй».
🧱 Моё мнение: мы наблюдаем фундаментальный поворот в AI-индустрии
Статья на Off-Policy демонстрирует то, что я сам наблюдаю в проектах и продуктах:
💡 Самые полезные модели — это не самые большие,
а самые уместные.
И уместность появляется из понимания человеческих намерений, а не из количества параметров.
Гонка, которую многие воспринимали как «гонку масштабов», на деле оказалась гонкой:
🏁 за способность мыслить в человеческих категориях.
А это и есть выравнивание.
И, похоже, побеждает тот, кто строит ценности внутри модели,
а не тот, кто пытается прикрутить их после.
🔗 Ссылки
Оригинальная статья:
https://www.off-policy.com/alignment-is-capability/