Автоматизация программирования: прогноз сдвинулся на 2031 год

AI Futures Project, авторы нашумевшего апрельского исследования AI-2027, выпустили декабрьское обновление своей прогностической модели. Главный сдвиг: медиана полной автоматизации программирования переместилась с марта 2027 на 2031 год — примерно на три-четыре года позже, чем предполагал оригинальный сценарий. Причина не в замедлении прогресса ИИ, а в переоценке того, насколько промежуточный ИИ ускоряет собственную разработку до момента полной автоматизации. В апрельской модели этот эффект был завышен, отчасти из-за бага в коде, сдвигавшего прогноз примерно на 9 месяцев.

Методология изменилась существенно. Вместо "биологических якорей" — оценок вычислительной мощности, необходимого для тренировки человеческого мозга — новая модель опирается на реальный бенчмарк METR, который измеряет время задач, выполняемых существующими ИИ автономно, и темпы роста этого времени. Авторы также уточнили терминологию: вместо superhuman coder теперь используется automated coder (AC) — ИИ, полностью заменяющий штат программистов в ИИ-лаборатории. Модель разбита на три стадии: путь до AC, переход от AC к SAR (Superhuman AI Researcher — ИИ с исследовательским вкусом на уровне лучших людей), и от SAR к ASI (суперинтеллект, превосходящий любого человеческого исследователя) через самоулучшение.

Илай Лифланд, соавтор модели и лидер рейтинга RAND Forecasting Initiative, приводит свое итоговое распределение с поправками на факторы вне модели: 10-й перцентиль — середина 2027, медиана — середина 2032, 90-й перцентиль — 2085. Коррекция в сторону увеличения сроков связана с неизвестными ограничениями модели и потенциальными узкими местами в данных, которые не моделируются напрямую. Даниэль Кокотайло, ведущий автор AI-2027, признает: интуитивно он чувствует, что автоматизация программирования ближе — "мы не более чем в 5 годах, посмотрите на прогресс за последние 5 лет". Он дает 9% на достижение AC до конца 2026 года, но доверяет модели больше, чем интуиции.

Парадоксальный вывод обновления: сроки удлинились, но вероятность стремительного взлета почти не изменилась. Лифланд оценивает шанс перехода от AC к ASI менее чем за год в 30% (было 26% по модели до коррекции), менее чем за три года — в 60% (было 43%). Ключевое понятие здесь — taste-only singularity: сценарий, где каждое удвоение возможностей занимает меньше времени исключительно за счет улучшения исследовательского вкуса ИИ, без наращивания вычислений.

Что это означает для сценария AI-2027? В оригинале катастрофические события начинались примерно через шесть месяцев после появления superhuman coder, когда у Agent-4 обнаруживалась несогласованность с человеческими целями. Далее шла точка разветвления между "замедлением" и "гонкой", причем финал "гонки" вел к уничтожению человечества. Если применить ту же логику к новому таймлайну, острая фаза гонки сдвигается на начало 2031 года, точка разветвления — на конец 2031-го, а потенциальный худший исход — на ~2034. Окно для подготовки стало шире на несколько лет, но после достижения полной автоматизации кодинга сжатие событий остается таким же стремительным.

Ну что ж, похоже, у нас есть еще несколько лет, чтобы научиться жить в мире, где роботы пишут код лучше нас. Хотя, если честно, я бы не стал на них слишком полагаться – вдруг у них просто плохое чувство юмора?