Здравствуйте друзья. Сегодня на нашей волне передача "Фазовый подземный переход" и мы будем обсуждать тему технологической сингулярности. Спонсор нашей программы Библиотека Будущего.
Ещё в незапамятные по меркам интернета времена, когда мамонты здоровались за ногочелюсти с трилобитами, фантаст и математик Вернор Виндж написал своё эссе о технологической сингулярности.
По правде сказать эта идея давно уже витала в воздухе, но именно Винджу принадлежит главная заслуга её популяризации. С тех пор она столько раз обыгрывалась массовой культурой, что сейчас про неё уже все знают. В недалёком будущем человечество исхитрится создать такой сильный ИИ, что он заведомо будет превосходить наш склизкий аналоговый мозг. Человечество сольётся с этим ИИ в экстазе и перепоручит ему прогресс. То есть супер ИИ будет работать над тем, как создать ещё более мощный супер ИИ и у него это ОБЯЗАТЕЛЬНО получится.
В итоге прогресс ускорится совершенно фантастически, и люди перестанут за ним успевать. Что тогда будет, сложно даже вообразить.
И, кстати, у людей второй половины ХХ века были все основания так думать. Потому, что 60-е годы были во всех отношениях прорывные. Человечество даже в космос вышло. Количество открытий год от года только росло. Я вон какую информацию нарыл:
Как видно, максимальная динамика открытий была в 60-е, а дух изобретательства и рационализаторства только раскочегаривался. Имелись все основания полагать, что поезд прогресса поедет в светлое будущее. Если не прям в коммунизм, то куда-то рядом. Но проблема падающего возврата на инвестиции уже тогда выглядывала из-под лавки. Денег больше, открытий меньше. Сами видите.
Стоит поблагодарить те времена за прекрасную научную фантастику.
Я не искал данные по миру в целом, но у меня есть основания полагать, что с наукой и открытиями там всё ровно то же самое, что и в СССР.
И население мира, кстати говоря, тоже росло максимальными темпами.
Так, что безо всякого ИИ человечество могло вообразить себе сингулярность. С тех пор мы планомерно от неё отдаляемся. На человеческий разум и логарифмическую линейку следовательно больше никто всерьёз не надеется.
Но, с массовым внедрением компьютеров у человечества вновь появился технооптимизм. Раз люди не осилили, надо создать паровозик, который сможет машинный интеллект мощнее нашего. И вычислительные мощности развивались на рубеже веков действительно как не в себя. А теперь пресловутый закон Мура поломался, но об этом в приличном обществе не говорят.
Почему люди, которые не могут решить собственные проблемы при помощи своего разума, подумали, что они смогут при этом создать супер-разумную машину, вопрос открытый.
Если у тебя нет сил и навыков, чтобы влезть на Эверест, просто запрыгни на его вершину.
Просто это последний шанс, наряду с трансгуманизмом, продолжить катиться по тем же рельсам, что и сейчас.
Как мы знаем, для питания современных генеративных моделей, которые маркетологи именуют "ИИ", нужна энергия. Много-много энергии. А она со временем не дешевеет. Более того, человечество понемногу накрывает энергокризис. Нет оснований полагать, что в будущем суперинтеллект, построенный на подобной элементной базе, будет энергосберегающим. И это первая плохая новость.
Вторая плохая новость заключается в том, что мы плохо понимаем, как работает наш собственный человеческий мозг. Его структура с 85+ миллиардами нейронов и триллионами синапсов не обсчитывается на современных мощностях в принципе. И это вторая плохая новость.
Третья плохая новость заключается в том, что человечества как субъекта пожалуй, что и нет. И поэтому люди сами не понимают чего хотят. Вот они будут задавать суперинтеллекту экзистенциальные вопросы и получать инструментальные ответы. А если ответы будут не инструментальные, то мы резко перейдём в плоскость непонятной нам машинной эпистемологии и неизвестно, что хуже, на самом деле.
Но, несмотря на это, мыши продолжают жрать кактус по совету мудрого филина-стратега. Авось станут ёжиками.
Поэтому открытие "сильного ИИ", который будет превосходить старый добрый человеческий разум, сперва пророчили на 2014 год, сейчас на конец 2030-х, а там и до 2100 недалеко.
А затраты на науку растут. А отдача падает. И пока на горизонте не видно ничего, что могло бы переломить ситуацию.
Если посидеть за чашкой чая и поразмышлять над сложившейся обстановкой минут эдак пять, то можно проникнуться трагикомичностью технологической сингулярности.
Вот у нас есть наш человеческий разум. И людей вокруг тоже много. И мозг куда более энергосберегающая и эффективная, чем существующие на текущий момент вычислительные машины. Если объединить несколько человек в когнитивную сеть каким-то способом, то не получится ли это куда мощней и эффективней огромной кучи кремниевых транзисторов? Так может мы не тем заняты? Или делаем что-то не так?
А если "естественный суперинтеллект" не будет мощней и эффективней, то почему? Может не в интеллекте дело вообще?
Резюмируем.
На рубеже ХХI века футурологи в человеке разочаровались. Поэтому на естественный интеллект не ставят, как и на человеческую природу. Вот и стали популярны идеи трансгуманизма и Бога из Машины, который всё порешает уже к 2045 году.
К тому же у инвесторов есть надежда, что сильный ИИ, так и останется по сути своей безвольным автоматом. То есть будет просто орудием в их руках. Чего не скажешь о человеческих сетях.
При этом какой-то фазовый переход очевидно наклёвывается. Поезд по старым рельсам дальше не пойдёт, просьба освободить вагоны. Но это уже совсем другая история.