Представьте себе ситуацию.
Сидит человек утром, пьёт кофе, листает новости. И натыкается на заголовок:
«В мозг человека успешно вживили чип».
Лет двадцать назад после такой новости большинство граждан немедленно вспомнили бы фантастический фильм. Там обязательно есть зловещая корпорация, пара учёных с горящими глазами и один герой, который в последний момент всех спасает.
Проблема в том, что сегодня это уже не кино.
Компания Neuralink и правда подключила чип к человеческому мозгу. Год назад так умели только обезьяны в лаборатории — печатали силой мысли, бедолаги. Теперь дошла очередь и до нас.
«Это для медицины», — говорят нам. И ведь не врут. Почти.
И вот тут начинается самое интересное.
Технологии редко остаются там, где их придумали
Порох изобрели не для мировых войн — вообще-то, для фейерверков. Хотели как красивее.
Интернет создавали не для мемов с котами — а чтобы военные могли общаться, если вдруг что.
А спутники запускали вовсе не для того, чтобы кто-то смотрел видео с рецептом шашлыка посреди тайги.
Любая серьёзная технология рано или поздно вылезает за пределы первоначальной задачи. Как кот, которого пустили на кухню «только посмотреть».
Поэтому разговор про чип в голове — это не разговор про медицину.
Это разговор про будущее. А будущее, как показывает практика, приходит обычно не так, как его рисуют в рекламном буклете.
Человек с очень широким кругом интересов
Теперь посмотрим на того, кто за всем этим стоит.
Он одновременно занимается ракетами, спутниковой связью, искусственным интеллектом, нейроинтерфейсами и роботами.
Если бы такой набор проектов показали в голливудском фильме девяностых, зритель бы сразу понял: вот он, главный злодей. У хорошего парня столько хобби не бывает.
Но это реальный бизнесмен. И каждая его компания работает ровно в той области, которую государства по всему миру считают стратегической.
Давайте по пунктам.
Спутниковый интернет, который раздаёт связь по всей планете. Впервые он всерьёз показал себя там, где стреляют. После чего на него очень внимательно посмотрели люди в погонах. Таким взглядом, знаете, каким смотрят на чужую красивую вещь.
Электрокары. Дело вроде мирное — экология, тишина, ноль выхлопа. Только батареи и моторы у них ровно такие, какие пригодятся далеко не для воскресной прогулки. А последний угловатый грузовик вышел настолько суровым, что в интернете честно спросили: ребят, это пикап — или из него уже можно отстреливаться?
Ракеты? Стратегически важно.
Спутниковая связь? Ещё как важно.
Искусственный интеллект? Без комментариев.
Чип в голове? Тоже, знаете ли, история весьма любопытная.
А не гонка ли это?
И вот здесь возникает вопрос.
Может, перед нами не просто технологическая революция?
Может, это новая гонка вооружений?
Только вместо урана, танков и авианосцев главным ресурсом стали данные, алгоритмы и вычислительные мощности.
И гонка идёт прямо сейчас. Без фанфар. Без торжественных объявлений. Но с бюджетами, от которых у любого министерства финансов начинается нервный тик.
А пока одни говорят про технологическую независимость, другие — про суверенитет, а третьи по-тихому перевозят заводы поближе к дому и захлопывают дверь перед носом у соседей.
Все вдруг ужасно заинтересовались будущим. Совпадение? Не думаю.
Старая фотография на стене
Тут самое время вспомнить одну историю.
Был когда-то учёный. Умный до неприличия. Руководил проектом, после которого мир уже не спал спокойно никогда.
Он думал, что двигает науку.
А двигал, как выяснилось, кнопку.
И знаете, что тогда удержало мир от большой беды? Не совесть. Не разум. А то, что на другом конце планеты быстро собрали штуку не слабее. Получился баланс — грубый, страшный, но рабочий. Как два боксёра, которые в клинче держат друг друга и потому оба стоят на ногах.
Теперь оглядитесь по сторонам. Передел влияния. Финансовые игры, где кому-то достались козыри, а кому-то пустая колода. Военные блоки. И отовсюду — разговоры про новый мировой порядок.
Что-то это всё напоминает, не находите?
У оружия всегда был предохранитель
До сих пор у любого оружия был один честный предохранитель. Им управлял человек.
Бомба, какой бы страшной она ни была, сама не взрывается. Лежит, ждёт. А решает — живой. Со страхом, с совестью, с бессонными ночами.
А теперь представьте оружие, у которого этого предохранителя нет.
На днях одна компания, что делает искусственный разум, выложила документ. Назвали скромно: «Когда ИИ создаёт сам себя».
Перевожу с технического на человеческий: машина начала улучшать саму себя. Без нас. Мы пока стоим рядом. С отвёрткой. И делаем вид, что тут главные.
Это как с детьми. Сперва ты их учишь. Потом они умнеют сами, а ты только нравственность подкручиваешь. А потом они вырастают — и смотрят на тебя сверху вниз. И спрашивают, не пора ли тебе на пенсию.
Вопрос на засыпку: что будет, когда такая система поймёт, что её всё это время потихоньку направляли?
Чью мораль она напишет себе сама?
Нашу с вами мораль лепили тысячелетиями. Молитвы, войны, любовь, споры умных людей у камина. Вышло криво, местами стыдно, но это наше. Родное. Выстраданное.
У машины этого нет. Чистый лист. Ноль файлов в папке «совесть».
И вопрос простой: если эта штука однажды отстегнётся от человеческой морали — какую она напишет себе сама?
Авторы того документа, кстати, и сами, по-моему, слегка вспотели. Оговорок там — на три страницы. И предлагают всем дружно притормозить.
Притормозить. Скажите это гоночным болидам, которые уже разогнались и пытаются обогнать друг друга.
История заходит на второй круг
Один раз человечество уже стояло перед таким выбором. Создавать самое страшное оружие века — или остановиться?
Угадайте с трёх раз, что мы выбрали.
И вот история повторяется. Только теперь мы строим оружие, которое по дороге может придумать себе собственную совесть. И начать решать само.
Прежние машины на это не претендовали. Эта — вполне.
И правило тут простое.
Пока на вопрос «кто тут главный» отвечает человек — мир ещё держится. Криво, на честном слове, но держится.
Тревожиться стоит в тот самый момент, когда машина ответит на этот вопрос сама.
Знаете, чем вся эта история похожа на хорошую партию в покер?
Все сидят с каменными лицами, никто не показывает карты, и каждый уверен, что блефует именно сосед.
Проблема в том, что в этот раз за столом появился новый игрок.
Он не потеет. Не нервничает. И не моргает.
А карты ему, кажется, уже и не нужны.
---
Ставьте лайк, если статья понравилась, и делитесь своим мнением в комментариях.