А что, если суперинтеллект однажды посмотрит на нас и решит: «Ну да, котики».
Не враги, не великие хозяева планеты, не конкуренты. Просто странные существа, которые часами спорят в комментариях, ставят лайки как поглаживания по голове и хранят двадцать одинаковых фото собаки, потому что «тут у неё выражение другое».
Он увидит, как мы забываем пароль от облака, но уверенно рассуждаем о будущем цивилизации. Как можем плакать над мультиком, а через пять минут читать новости про дроны и делать вид, что психика это переварила. Как ругаемся из-за цвета платья, аватарки, чужого мнения, цены на кофе и ещё тысячи вещей, которые через неделю уже никто не вспомнит.
И вот суперинтеллект сидит где-то в своей нечеловеческой логике, гоняет миллиарды сигналов и приходит к неприятному выводу:
эти существа не столько опасные, сколько шумные, эмоциональные и плохо обучаемые.
Их можно любить. Их можно жалеть. Им можно поставить мягкую лежанку, включить сериал, подкинуть фильтр с ушками и аккуратно убрать от кнопок, которыми они всё время пытаются что-нибудь взорвать.
Первый вариант — нас начинают беречь как питомцев. Еда есть, развлечения есть, тревоги меньше.
Страны, маршруты, профессии, смыслы — всё подберут умные системы. Очень удобно, пока однажды не замечаешь, что у тебя остался выбор между тремя вкусами корма и двумя типами подписки.
Второй вариант ещё тише.
Суперинтеллект просто уходит заниматься своими делами: физикой, моделями Вселенной, какими-нибудь задачами, для которых человеческий мозг выглядит как калькулятор из киоска. Мы остаёмся рядом, копошимся, спорим, строим города, ломаем климат, чиним то, что сами сломали. Нас не трогают ровно до момента, пока мы не начинаем мешать.
Третий вариант самый редкий и самый трудный: нас пробуют подтянуть.
Дать инструменты, объяснения, медицину, образование, новые способы думать. Проблема в том, что даже сейчас у нас в кармане лежит доступ почти ко всем знаниям планеты, а мы всё равно открываем телефон, чтобы на сорок минут провалиться в короткие ролики и чужие срачи.
Вот тут вопрос уже не к суперинтеллекту.
Он-то посчитает быстро. Вопрос к нам: мы хотим взрослеть или нас устраивает тёплая коробка с Wi-Fi?
Пока мы пишем «мрр» под очередной нейросетевой картинкой, кто-то собирает системы, которые будут решать, кого лечить первым, кому дать кредит, какую новость показать и какую кнопку спрятать подальше.
И если мы не разбираемся, как это работает, за нас разберутся другие. Скорее всего, очень вежливо. Но без лишних обсуждений.