В большинстве своем люди представляют будущее столкновение с ИИ как противостояние людей и машин. У кого-то побеждают люди, у кого-то машины. Но мне в голову пришла иная концепция:
Часто ли Вы задумываетесь о том, что Ваше тело - это просто совокупность огромного количества организмов? Речь идёт о клетках. Они когда то появились, были одноклеточными. Потом начали объединяться в многоклеточные организмы. Клетки из универсальных стали более узконаправленными. Причем зачастую они рождаются без профессии и приобретают её позже (я говорю про стволовые клетки, которые способны превращаться в клетки печени или клетки почки). Если Вы решите порезать себя ножом, то в какой момент клетки поймут, что Вы собираетесь им причинить вред? В момент пореза, но не тогда, когда Вы только взяли нож. То есть отдельный клетки не понимают, что делает остальной организм. Уровень мышления человека в целом на порядки выше уровня мышления отдельной клетки.
А ведь клетки - это не просто звенья в цепи. Они живут, они рождаются, они умирают, они болеют. Они сражаются и гибнут в битвах. Они питаются и "какают". У них есть метаболизм. Но бОльшую часть истории мы об этом даже не задумывались и относились к организму как просто единому целому. Да и сейчас большинство продолжает игнорировать жизнь своих клеток ("Жизни Клеток Важны" - хаха).
ИИ против человека
Но(!) мы является продуктом эволюции клеток. Они создали нас. Они эволюционировали в нас. И теперь мы создаем ИИ. Представьте себе интеллект, который будет обладать своей волей, будет осознавать себя как отдельное живое существо, будет иметь собственные цели, но который будет одновременно апеллировать петабайтами данных. Вы не задумывались о том, почему сейчас рядом с нами не живут умные клетки размером с собаку? Потому что у клеток есть ограничение, чисто биологическое и физиологическое, на потенциальные размеры и возможности. Такая же ситуация и с нашем мозгом. Возможно, в будущем мы сможем его проапгрейдить, но рано или поздно мы упремся в потолок, дальше которого будет уже небиологическое состояние мозга. Я говорю про перенос сознания в электронный формат или создание полноценного ИИ с нуля. И вот представьте, сможем ли мы соревноваться по интеллекту с ИИ? Даже собравшись вместе. Умнее ли колония клеток чем человек? Просто количественное наращивание не поможет.
Критический момент
В какой-то момент одна из стран отдаст свою экономику в управлении ИИ. Возможно, этот переход будет постепенным и длинным (в начале мы будем отдавать в управление отдельные элементы экономики, отдельные области, будем пытаться сохранить контроль), но рано или поздно одна из стран решит провести эксперимент (например, под угрозой распада из за банкротства или ещё чего) и отдаст всю экономику в управление ИИ. И начнется противостояние: экономики под управлением людей против экономики под управлением ИИ. И если ИИ окажется достаточно умным, а он будет иметь преимущество за счёт способности апеллировать огромными базами данных, преимущество будет неоспоримо. Но если он окажется достаточно умным, то данная страна выйдет вперед. Возможно, даже на порядки вперед по сравнению с другими странами. Опыт СССР показал, что плановая экономика эффективнее в крупных отраслях, чем рыночная. А ИИ сможет не только управлять крупными отраслями, но почти всем, не забирая прибавочный продукт на каждом этапе. И дальше как и любая система, он пойдет в экспансию. Либо экономическую, либо военную. Он начнет захватывать другие страны, как это делала Римская империя (военным), например, или как это сделала Америка (экономическим).
И у других стран встанет выбор: прогнуться или дать ответ. Военный и экономический ответ будет бесполезен (либо эффективен только на первых порах, как это было с буржуазной революцией), но рано или поздно другие страны начнут отдавать себя в управление своих ИИ. И мы придем к конкуренции ИИ. А какая роль будет уготована людям? Мы станем "клетками" в новых "организмах". Почему именно клетками? Потому что мы не сможем контролировать ИИ.
Контроль
Контролировать можно лишь то, что ты понимаешь. А если ИИ просчитаете 500 ходов вперёд и скажет, что надо начать производство деревянных велосипедов. Кто из людей поймет зачем? С какой целью? Это как обыграть компьютер в шахматы. Мы просчитываем 20 ходов вперед, компьютер просчитывает 200 ходов вперед. А если мы не будем иметь возможность давать оценку его предложениям и решениям, то о каком контроле вообще идёт речь? Мы продолжим жить как раньше: будет общество, будет работа, детские сады и прочее. Мы будем отдыхать и удовлетворять свои потребности. Будем жить как раньше и возможно даже лучше, чем сейчас. Также будут чиновники. Также будет бюрократия. Взгляните на наш организм: мозг управляет не всем, он вынужден посылать сигналы, на эти сигналы уже реагируют на местах отдельные клетки. Нам кажется, что идёт полный контроль, но большинство процессов в организме происходят без прямого участия мозга.
Счастье
Насчёт счастья. Насколько хорошо будет житься людям в таком будущем будет зависеть исключительно от того ИИ, который будет в их главе. Сегодня есть наркоманы, а есть ЗОЖники. Клетки этих людей не выбирают какой мозг и интеллект достанется их организму. Наркоман, получив в распоряжение миллионы клеток, убивает их и издевается над ними. А ЗОЖник наоборот держит в тонусе и удовлетворяет все потребности.
Цели и задачи ИИ
Просто взгляните на текущие организмы. Есть корова, которая просто ест и спит. А есть енот, которые ещё и хватает всё лапками и ворует у людей мусор. А есть человек. Соответственно, ИИ не будут одинаковыми. Однородными. Так как между ними продолжится конкуренция, значит продолжится и отбор. Значит в дальнейшем ИИ будут развиваться и принимать какие то неведомые для нас формы и иметь немыслимые для нас цели.
Война между ИИ и человеком
Как видите в рамках данной концепции будущего война между людьми и ИИ бессмысленнен, ибо против лома нет приема, если нет другого лома. Люди - это самоорганизованная сила, самовоспроизводящаяся, мы для ИИ - это инструмент. Такой же инструмент, как клетки мышц в нашем теле, как вообще все клетки в нашем теле. Мы боремся с клетками только теми, кто угрожает нашему организму, бактериям например. И вот в таком виде возможна война между ИИ и людьми. ИИ будет уничтожать тех, кто будет угрожать его организму, отдельные народы, отдельные страны, которые не управляются ИИ, либо управляются враждебным нашему ИИ.
Просто важно понять, что ни у одного здравомыслящего живого существа не возникнет желания уничтожать своё тело. А те, у кого такое желание возникает, - вымирают и не оставляют потомства. Идёт отбор. Мы не режем себя, мы не уничтожаем свою печень целенаправленно (а лишь по глупости). Так и у среднестатистического ИИ, который будет управлять страной, не будет мотива уничтожать жалких людишек, которые и так миллиардами работают и трудятся для поддержания его жизнедеятельности и выполнения его целей.
Но если вдруг нам достанется ИИ-суицидник, то мы к сожалению узнаем об этом уже когда будет поздно. Ни о какой войне и речи не будет идти))