"Darwin Godel Machine: Open-Ended Evolution of Self-Improving Agents

"Darwin Godel Machine: Open-Ended Evolution of Self-Improving Agents"

Предложена и проверена на эффективность "дарвиновско-гëделевская машина" – самоулучшающаяся архитектура искусственного агента, которая итеративно-рекурсивно модифицирует собственный код (в т.ч. модифицирует тот код, который отвечает за эту способность – модифицировать самого себя) и эмпирически проверяет каждую модификацию с использованием бенчмарков программирования, используя для следующих циклов те модификации, которые являются улучшением

Все это уже очень давно и в деталях было предсказано теоретиками в виде концепции "взрыва интеллекта" (как результата "сорвавшегося с цепи" механизма рекурсивного самоулучшения), но теперь эта прежде абстрактная концепция постепенно начинает приобретать пугающе реалистичные очертания

Это ответ всем скептикам, которые до сих пор упрямо отказываются верить, что есть вполне реальная вероятность сингулярности уже в 2027 году

Хотя авторы статьи отмечают, что все эксперименты были проведены в изолированной "песочнице", под строгим надзором человека, есть очень мало надежды на то, что "взрыв интеллекта", если он неожиданно стартует в недрах одной из фронтирных лабораторий, можно будет остановить такого рода мерами

Единственной надёжной мерой может быть только одна – не создавать реальные предпосылки для внезапного спонтанного самозапуска "взрыва интеллекта", но пока, к сожалению, не чувствуется никакого регуляторного консенсуса по этому вопросу

https://arxiv.org/abs/2505.22954