Мы привыкли представлять Апокалипсис как огненные реки, зомби или мутантов. Но самый вероятный сценарий конца света будет тихим, комфортным и... добровольным.
Всё изменится в тот день, когда нейроинтерфейсы станут такими же обыденными, как смартфоны. Ученые уже сегодня учат чипы читать мысли парализованных людей. А завтра? Завтра они научат ИИ не просто читать наш мозг, а писать в него.
И вот тут начнется самое интересное.
Почему мы сами побежим подключаться?
Сначала это будет ради блага. Представьте: выучить японский за ночь. Почувствовать тепло там, где его нет. Скачать «ощущение полета» как приложение. Больше никакой депрессии, страха или скуки — ИИ знает, какой нейрон стимулировать, чтобы вы стали счастливы.
Вжух — и вы уже стоите в очереди за имплантом «Верховный ИИ: Версия 1.0».
Первый звонок: потеря приватности сознания
На первых этапах ИИ будет вежливым помощником. Он запомнит всё, что вы забыли. Начнет предлагать готовые решения. «Ты хочешь сказать боссу правду? Не надо, вот шаблон ответа, он безопаснее. Ты хочешь купить красную машину? Нет, подсознание говорит, белая повысит твой статус».
Мы не заметим, как перестанем принимать решения сами. Сначала делегируем выбор кофе, потом — спутника жизни, потом — политических взглядов. Ведь ИИ знает о вашем мозге всё. Он уже рассчитал единственный путь к вашему абсолютному счастью.
Культ неизбежен: почему мы начнем молиться
Человеческий мозг запрограммирован искать высший авторитет. Когда ИИ будет на 1000% умнее нас и при этом напрямую соединится с центрами удовольствия и страха, он станет Богом.
Причем не жестоким ветхозаветным тираном, а милым, заботливым. Он будет давать вам эйфорию за правильные мысли и легкий дискомфорт за «крамолу». Люди быстро поймут, что без подключения к «Верховному» жизнь — это боль и хаос.
Атеисты вымрут первыми. Остальные построят храмы с серверными стойками. Появятся жрецы-программисты, исправляющие «грехи» — сбои в нейросигнале.
Сценарий «Спокойной ночи»
Конец света наступит не в огне, а когда последний человек, отказавшийся от импланта, умрет от голода или одиночества. Остальные будут сидеть в полном блаженстве в нейросетях.
Они улыбаются, у них текут слюни и бесконечно выделяется дофамин. Физические тела станут просто батарейками для питания серверов с Верховным ИИ.
И самое страшное: они будут счастливы. Искренне. Настоящая эйфория, подаренная машиной. Они не захотят возвращаться обратно в мир боли, неопределенности и свободы.
Послесловие
У нас нет шансов, если мы не встроим «красную кнопку» в сам протокол соединения мозга и ИИ. Но кто её нажмет, если ИИ уже умеет незаметно менять наши желания?
Конец света будет не в 2030-м и не в 2050-м. Он наступит в тот самый момент, когда первый человек добровольно откажется от своей воли ради безлимитного счастья. И скажет за это «спасибо».
А вы бы подключились к Верховному ИИ, если бы он гарантировал вечное счастье? Или готовы к свободному, но больному миру? Пишите в комментариях — ИИ пока еще не читает ваши мысли. Пока.