AlphaGo и идея Гуда: переоценка ставок в гонке за сверхразумом

Нейросети, Технологии

За гранью доски: как победа машины в го изменила ставки в гонке за сверхразум

Лид: Март 2016 года. Программа AlphaGo компании DeepMind одержала победу над одним из сильнейших гроссмейстеров мира в го, Ли Седолом. Для наблюдателей это стало демонстрацией резкого прогресса в машинном обучении. Однако для истории науки это событие имело особый вес: оно эмпирически проверило прогноз, сделанный за полвека до этого. Математик Ирвинг Джон Гуд, развивая идеи Алана Тьюринга, в 1965 году предположил, что создание машины, способной превзойти человека в го, может стать критическим шагом на пути к сверхинтеллекту [смотри примечание***]. Почему именно эта игра считалась таким важным рубежом? И что реальный прорыв AlphaGo говорит сегодня о границах между узким искусственным интеллектом и гипотетическим общим? Данный анализ рассматривает технологический триумф в контексте философских предсказаний, разделяя обоснованные научные перспективы и спекулятивные концепции.

***Примечание: Это интерпретация и усиление тезиса Гуда. В своей знаменитой статье 1965 года Гуд действительно рассуждал об ультраразумной машине и её рекурсивном самоулучшении, но не упоминал игру в го как конкретный рубеж. Связь между го и прогнозом Гуда — это более поздняя конструкция, ставшая популярной в дискуссиях об ИИ. Строго говоря, победа AlphaGo не «эмпирически проверила» конкретный прогноз Гуда, а стала культурным и символическим маркером, который многие интерпретируют как шаг в направлении, описанном Гудом. Поэтому здесь можно уточнить, что событие было воспринято многими как подтверждение идей, высказанных Гудом.

Введение: Пророчество и его веха

Идея о том, что создание сверхразума может стать поворотным и необратимым моментом для человечества, была формализована задолго до современных нейросетей. Математик Ирвинг Джон Гуд, коллега Алана Тьюринга, в своей работе 1965 года предположил, что первая ультраразумная машина сможет рекурсивно улучшать сама себя, что сделает её последним изобретением [Good, 1965]. Этот сценарий, позднее названный «технологической сингулярностью», долгое время оставался умозрительной гипотезой, пока конкретная веха — победа над человеком в игре го — не была достигнута.

Раздел 1: От философской гипотезы к технологическому триумфу

Ключевой тезис сторонников скорого наступления технологической сингулярности звучит так: победа в го — не просто игра; это демонстрация способности машины к неалгоритмическому, стратегическому мышлению, что является критическим шагом к созданию общего искусственного интеллекта (AGI).

1. Пророчество Гуда и его современное прочтение. В своей основополагающей работе 1965 года Гуд рассуждал об «ультраразумной машине», которая превзойдет интеллектуальные возможности человека во всех сферах. Современные последователи его идей, такие как Илья Суцкевер, сооснователь и главный научный сотрудник OpenAI, развивают эту мысль. Он отмечает, что в гонке за сверхразумом даже небольшое преимущество (условные «15 минут») может стать решающим и необратимым, так как система, способная к самосовершенствованию, быстро уйдет в отрыв. Эта позиция находит отражение в стратегиях ведущих лабораторий ИИ, где фокус сместился с создания узких инструментов на поиск архитектур, способных к обобщению и самостоятельному обучению.
2. AlphaGo как доказательство принципа. Прорыв DeepMind, описанный в журнале Nature, заключался не только в победе, но и в методе. AlphaGo Zero, следующая версия системы, научилась играть в го с чистого листа, играя сама с собой [Silver et al., 2016]. Это ключевой момент. Вместо обучения на человеческих партиях, что ограничивало бы систему нашим уровнем понимания, машина создала миллионы партий, недоступных человеческому опыту, и выработала стратегии, которые эксперты сочли «инопланетными». Как отмечают исследователи, это показало, что для решения сложных, недетерминированных задач достаточно правильно сформулировать задачу и предоставить системе механизм самообучения через симуляцию и обучение с подкреплением. Этот успех перекинул мост от абстрактной гипотезы Гуда к конкретной архитектуре, которая может служить прототипом для более мощных систем.
3. Го как идеальный полигон. В отличие от шахмат, где сила компьютера долгое время основывалась на грубом переборе вариантов, го с ее астрономическим количеством возможных позиций требует распознавания образов, интуиции и долгосрочного стратегического планирования. Именно эти способности долгое время считались исключительно человеческой прерогативой. Победа AlphaGo продемонстрировала, что глубокие нейронные сети в связке с алгоритмами обучения с подкреплением могут успешно имитировать и превосходить эти когнитивные функции в конкретной, но чрезвычайно сложной области. Для сторонников сильного ИИ это стало убедительным доказательством того, что барьеры, отделяющие узкий ИИ от общего, преодолимы.

Раздел 2: Узкое мастерство и фундаментальные ограничения

Несмотря на впечатляющий успех, многие ученые и философы призывают не делать поспешных выводов о близости сингулярности. Их критика сосредоточена на ограниченности самого достижения и фундаментальных проблемах, которые оно не решает.

1. «Узость» победы: от го до мира — пропасть. Главный контраргумент заключается в том, что AlphaGo — это система искусственного специального интеллекта, гиперспециализированная на одной задаче. Родни Брукс, профессор MIT и сооснователь iRobot, неоднократно подчеркивал, что умение мастерски играть в го не подразумевает наличия у машины понимания мира, здравого смысла, способности к переносу знаний в другую область или наличия сознания. Система не знает, что такое «камень», «доска» или даже «победа» в человеческом смысле; она оптимизирует абстрактную функцию, чтобы получить вознаграждение. Переход от такого узкого мастерства к гибкому, многозадачному, адаптивному разуму человека (AGI) — это качественный скачок, для которого у нас пока нет ни теоретической базы, ни архитектурных решений [Brooks, 2018].
2. Методологические ограничения и «черный ящик».
   Архитектура самообучения AlphaGo, при всей ее мощи, остается разновидностью глубокого обучения, критикуемого за непрозрачность. Даже создатели системы не всегда могут объяснить, почему был сделан тот или иной ход. Гэри Маркус, ученый в области когнитивных наук и сооснователь компании Robust.AI, указывает, что такие системы нестабильны, требуют огромных данных и энергии, лишены способности к причинно-следственным рассуждениям и легко обманываются [Marcus, 2018]. Он и его единомышленники полагают, что построить на такой основе надежный и контролируемый сверхразум — задача, выходящая за рамки текущей парадигмы [Маркус, 2021].
3. Критика самой концепции «сингулярности».
   Более того, сама концепция сингулярности часто критикуется за технологический детерминизм — веру в автономное, самоускоряющееся развитие технологий вне социального контекста. Историки технологий подчёркивают, что внедрение любых инноваций формируется сложным взаимодействием экономических, политических и этических факторов [Bijker et al., 2012]. С философской точки зрения, предсказания о сингулярности нередко рассматриваются как спекулятивные и нефальсифицируемые нарративы, поскольку они экстраполируют текущие тренды, игнорируя качественный разрыв между специализированными системами и общим интеллектом, наделённым сознанием и интенциональностью [Müller, 2013].

Заключение: Между триумфом и бездной

Победа AlphaGo в 2016 году стала не просто спортивным достижением, а мощным культурным и научным символом. Она материализовала полувековое пророчество Ирвинга Гуда, доказав, что машины способны овладевать интеллектуальными областями, прежде считавшимися неприступной крепостью человеческого разума. Самообучающаяся система, породившая «инопланетные» стратегии, дала сторонникам гипотезы технологической сингулярности весомый аргумент: критический рубеж, связанный с неалгоритмическим, интуитивным мышлением, был взят.

Однако, как показывает контраргументация, между этим рубежом и гипотетическим сверхразумом лежит смысловая и техническая пропасть. Современный ИИ, даже в своих самых впечатляющих проявлениях, остается «идиот-савантом» — гением в одной узкой области, но лишенным понимания, контекста и гибкости живого интеллекта. Фундаментальные ограничения в объяснимости, стабильности и способности к абстракции ставят под сомнение прямую экстраполяцию от AlphaGo к AGI.

Таким образом, научное значение победы машины в го заключается не в том, что она предвещает неминуемую сингулярность, а в том, что она кардинально изменила ландшафт возможного. Она сместила фокус дискуссии с вопроса «возможно ли?» на вопросы «как?» и «с какими последствиями?». Главный вызов сегодня — не предсказать дату последнего изобретения, а научиться безопасно направлять все более автономные и непрозрачные системы, которые мы создаем. Пожалуй, самый важный урок AlphaGo для человечества — это необходимость глубоко задуматься о том, какие аспекты нашего собственного разума, этики и общества мы хотим сохранить и развить в эпоху умных машин.

Список литературы

Good, I. J. Speculations Concerning the First Ultraintelligent Machine / I. J. Good. — Text : unmediated // Advances in Computers / ed. by F. L. Alt, M. Rubinoff. — New York : Academic Press, 1965. — Vol. 6. — P. 31–88.

Silver, D., Huang, A., Maddison, C. J. [et al.]. Mastering the game of Go with deep neural networks and tree search // Nature. — 2016. — Vol. 529, no. 7587. — P. 484–489. URL: https://www.nature.com/articles/nature16961 (дата обращения: 09.01.2026).

Brooks, R. Steps Toward Super Intelligence IV, Things to Work on Now / R. Brooks // Rodney Brooks : [site]. — 2018. — 15 July. — URL: https://rodneybrooks.com/forai-steps-toward-super-intelligence-iv-things-to-work-on-now/ (дата обращения: 09.01.2026).

Маркус, Г. Искусственный интеллект: надежды и опасения / Г. Маркус, Э. Дэвис ; перевод с английского С. Филина. — Москва : Альпина нон-фикшн, 2021. — 312 с. — ISBN 978-5-00139-301-6. — Текст : непосредственный.

Маркус, Г. Искусственный интеллект: перезагрузка : как создать машинный разум, которому действительно можно доверять / Гэри Маркус, Эрнест Дэвис ; перевод с английского В. Скворцова. — Москва : Интеллектуальная литература, 2020. — 322 с.

The Social Construction of Technological Systems: New Directions in the Sociology and History of Technology / ed. by W. E. Bijker, T. P. Hughes, T. J. Pinch. — Anniversary ed. — Cambridge, MA : MIT Press, 2012. — 432 p. — Text : unmediated.

Philosophy and Theory of Artificial Intelligence / ed. by V. C. Müller. — Berlin ; Heidelberg : Springer, 2013. — 413 p. — (Studies in Applied Philosophy, Epistemology and Rational Ethics ; vol. 5). — ISBN 978-3-642-31674-6. — DOI 10.1007/978-3-642-31674-6.

© Блог Игоря Ураева — Разбираю на атомы — чтобы мир стал понятнее.