Я уже писал о концепциях теорий Роджера Пенроуза и Федерико Фаггина о не вычислимости сознания
https://t.me/AI_AGI_ASI_Future/18
Недавно вышедшее второе издание книги Джобста Ландгребе и Барри Смита "Почему Машины Никогда Не Будут Править Миром: Искусственный Интеллект без Страха" перекликается с темой недостижимости AGI.
Джобст Ландгребе и Барри Смит в своей работе выносят вердикт: ИИ, равный или превосходящий человеческий (тот самый AGI), невозможен по фундаментальным математическим причинам.
Их ключевые аргументы, подкрепленные данными из математики, физики, информатики, философии, лингвистики, биологии и антропологии, звучат как холодный душ для горячих голов:
Человеческий интеллект – это свойство человеческого мозга и ЦНС, которые являются сложными динамическими системами (complex dynamic systems).
Системы такого рода принципиально не поддаются математическому моделированию, которое позволило бы точно эмулировать их поведение на компьютере. Всё, точка. Это математический факт, а не временное технологическое ограничение.
Авторы (ученый-предприниматель с бэкграундом в философии, математике, нейронауках и биохимии, и один из самых цитируемых современных философов-онтологов) методично разбирают популярные мифы:
AI-системы (даже продвинутые LLM типа ChatGPT) – это, по сути, "кусочки математики". Они не могут мыслить, чувствовать, желать или обладать волей.
Идея, что мы уже живем в симуляции или сможем достичь цифрового бессмертия через "загрузку сознания" – это результат глубокого непонимания физики, математики, биологии и самих компьютеров.
Разговоры об "этике ИИ" – это подмена понятий. Речь должна идти об этике использования ИИ человеком. Бояться надо не самих машин (они лишь инструменты), а того, что люди могут сделать с их помощью.
Игнорируется ключевое различие между практическим интеллектом ("знаю как", know-how, интуитивное знание) и пропозициональным знанием ("знаю что"). Большинство человеческого поведения основано на первом, которое невозможно полностью формализовать и смоделировать.
Сингулярность невозможна, так как она требует AGI, а AGI математически невозможен.
Прогнозы на будущее от авторов:
Несмотря на невозможность AGI, узкий AI продолжит развиваться и принесет человечеству огромную пользу, особенно в моделировании не-комплексных (логических) систем. Он станет мощнейшим инструментом в науке, инженерии, производстве – везде, где можно четко определить правила и где система предсказуема.
Однако:
Машины никогда не смогут эмулировать человеческий интеллект, сознание, язык во всей его сложности, социальное и этическое поведение. Предел – математический.
Надежды трансгуманистов на преодоление человеческой природы через технологии – по мнению авторов беспочвенны. Мы не сможем "загрузить" сознание или создать искусственную жизнь.
Страхи перед "восстанием машин" или "злым суперинтеллектом" необоснованы. AI останется инструментом, лишенным собственной воли и интенций.
Реальная проблема будущего – не экзистенциальные риски от AGI, а социально-экономические последствия автоматизации и необходимость адаптации общества к миру, где многие задачи будут выполнять узкие ИИ.
Так что, выдыхаем? Терминатор отменяется?
Ландгребе и Смит настаивают: их аргументы основаны не на текущих технологических ограничениях, а на фундаментальных математических и физических законах. Это не скепсис уровня "лошадь всегда будет быстрее автомобиля", а констатация факта, сродни невозможности создания вечного двигателя.
Больше Новостей из Будущего в Телеграм канале
AI AGI ASI Новости из Будущего
#AGI #ИИ #ИИбудущее #Сингулярность #AIриски #Математика #Философия #Технологии #Прогнозы #Наука #Мозг #Сознание