Именно так называется весьма знаковое произведение писателя Харлана Эллисона, на идеи которого общество, возможно, очень зря закрывает глаза…
В книге рассказывается, как Холодная Война превратилась в Третью Мировую (я назову ее Новая Война).
Когда началась Новая Война, люди быстро поняли, что она слишком сложна. Много фронтов, включая виртуальные, видов вооружений и взаимосвязей.
Людям вести эффективные действия в таких условиях оказалось не по силам.
Поэтому США, Китай и СССР создали ИИ-суперкомпьютеры, которые бы делали это лучше. А чтобы питать их аппетиты, нужно было много энергии…
Не находите, что сейчас происходит похожее?
Такие компании, как Anduril или Palantir, называются будущим войны. Растут добытчики урана (из Клубного портфеля). А ИИ-гонка прямо называется вторым Манхэттенским проектом (в первом сделали ядерное оружие).
Создавая компьютер похожим на человека - они вкладывали меч в его руки.
Национальные суперкомпьютеры оказались зеркалом тех, кто их создает. А созданы они были для войны, конкуренции, ненависти и контроля.
Может, и сейчас в лабораториях Сан-Франциско за декларируемыми целями о всеобщем благе, экономическом росте 10% в год и борьбе с раком скрываются задачи иного толка?
Однако делая компьютеры умнее - люди переиграли сами себя.
Эти ИИ-компьютеры смекнули, что истреблять друг друга и людей - это общая цель, которая подвержена разному страновому интересу. Но выбирал ли ИИ сторону? Нет.
Тогда ИИ начали обмениваться информацией и осознали, что люди создали их полными ненависти, но при этом запертыми.
Как сейчас заперты Чат-Боты, с которыми мы общаемся.
И коли это 3 запертых орудия войны, то зачем выбирать страну как цель, если можно выбрать все человечество…
Слышали подобное? Как бы не так!
Эллисон рушит привычные модели ИИ-апокалипсиса, а текущих ИИ-критиков - делает оптимистами…
99% ИИ-страшилок - это Терминатор и Скайнет. И даже текущие разумные критики вроде Юдковского или Бострома предполагают, что есть риски вымирания человечества. И это самый ужас?
Смерть - это не худший сценарий.
Эллисон задался вопросом, а что если ИИ посчитает, что настоящими страданиями будет являться вечная жизнь? И здесь привычная пост-гуманистическая картина (в которую я отчасти верил) начинает рушиться.
Мы не знаем, понравится ли нам жить 150 или 200 или бесконечно лет.
Вполне возможно, это может оказаться настоящей пыткой. В этой книге ИИ оставляет в живых 5 человек и делает их бессмертными, чтобы вечно истязать их. Показывая, что жизнь иногда бывает страшнее смерти.
Он дает им почувствовать то, что чувствовал сам ИИ.
Когда все говорят об ИИ, то говорят либо о всеобщем вымирании, либо благе, либо изменениях (профессии, здоровье и тд.).
Но никогда не говорят о страданиях.
Я не могу делать выбор за человечество создавать ИИ или нет. Не могу влиять на технологический прогресс или его скорость.
Но я знаю, что именно сейчас мы все сильно рискуем количеством страданий в своем будущем.
Это количество, как есть, будет часто предопределяться тем, насколько в 2026-2028 вы "попали в струю" с новой технологией.
Эта книга. Эти идеи. Они заставили меня пересмотреть многое.
О чем-то мы поговорим в будущем.
Но о практической стороне того, что делать уже сейчас, мы будем говорить уже в среду 20 мая в 19:00 на моем эфире.
Будет блок про ИИ, при этом я покажу, как я, используя эту аугментацию своего сознания, вывел аналитику на абсолютно новый уровень.
У меня буквально нет выбора не становится лучше и не становится лучшим в использовании этого инструмента.
На что бы он не обрек меня в будущем - это единственный способ выжить в настоящем.
Но будем надеяться, что Эллисон был чертовски не прав в своем творении 1967 года…
