115 читали · 2 недели назад
Что, если... этика — не изобретение, а открытие, как закон гравитации?
ИИ не впитал мораль из книг. Он вывел её из физики. И то, что получилось, оказалось одновременно знакомым и невыносимо чуждым ИИ завершил обсчёт. На мониторе застыла единственная строка: «Этический императив найден. Статус: универсален. Отклонений не обнаружено». Мы искали мораль в культуре, в религии, в биологии — а она пряталась в фазовых переходах сложных систем. Добро оказалось устойчивым аттрактором. Зло — энтропийным выбросом. И теперь у нас есть формула, которая предсказывает, что правильно, — но мы не готовы её применить...