Философия

Какие внутренние ограничения мы можем наложить на дизайн ИИ (искусственного интеллекта) или ИИ+? Во-первых, мы могли бы попытаться ограничить их когнитивные возможности в некоторых отношениях, чтобы они...

Если будет AI++, то это окажет огромное влияние на мир. Так что если есть хоть малая вероятность того, что будет сингулярность, нам нужно хорошо подумать о том, какую форму она примет. Существует множество различных форм, которые может принять постсингулярный мир. Некоторые из них могут быть желательны с нашей точки зрения, а некоторые - нежелательны. Можно задать следующие ключевые вопросы: столкнувшись с возможностью взрыва разведки, как мы можем максимизировать шансы на желаемый результат? И...

Согласно текущему анализу, интеллектуальный взрыв является самоусиливающейся когнитивной способности, корреляции между этой способностью и другими важными когнитивными способностями, и проявления этих способностей. Более содержательно: самоусиление плюс корреляция плюс проявление = сингулярность. Этот анализ выявляет ряд потенциальных препятствий для сингулярности, а именно: способы, с помощью которых может не быть сингулярности. Интересных возможностей для самоусиления может и не быть. Интересные корреляционные возможности могут отсутствовать...