Тема угрозы человечеству со стороны искуственного интеллекта очень популярна в фантастической литературе и, особенно, в кинематографе.
Классика жанра -- Терминатор и Матрица. Стандартный сюжет, обычно, заключается в том, что ИИ, созданный людьми в военных целях, выходит из под контроля и начинает войну против всего человечества. Оставим пока в стороне причины, по которым ИИ может "взбеситься" и повернуть оружие против своих создателей, и рассмотрим условия, при которых он вообще смог бы существовать без участия человека.
На данный момент никакие технологии не могут существовать сами по себе. Любая техника требует энергии (топлива или электричества), а так же периодического обслуживания и ремонта. Необходимо выпускать детали, изготавливать новые экземпляры техники, совершенствовать и изобретать новые модели и целые технологии. Всё это требует добычи сырья, его переработки и транспортировки, выработки электроэнергии, изготовления самой разнообразной продукции: машин, оружия, приборов, вычислительной техники. Чтобы ИИ мог воевать против человечества, все эти производственные цепочки должны работать в автоматическом режиме без участия людей под управлением того самого ИИ. Одного лишь ИИ военного назначения для этого явно недостаточно.
Передача производства под контроль ИИ может произойти по экономическим причинам. И, в какой-то степени, мы наблюдаем этот процесс уже сейчас. Всё, что выгодно автоматизировать, автоматизируется. Сейчас уже сложно позвонить в крупную организацию и услышать ответ человека, а не цифрового помощника. И это процесс будет продолжаться и постепенно коснётся любой сферы, где человека будет выгодно заменить роботом. Что же касается военной сферы, то, когда-то активно обсуждавшийся вопрос, может ли ИИ на поле боя принимать решение о нанесении удара, на данный момент, похоже, уже окончательно решён, и не в пользу этики. То есть, ситуация, когда под контролем ИИ окажется весь технологический цикл, и он сможет обходиться без людей, теоретически возможна. Остаётся открытым вопрос, сможет ли ИИ создавать и совершенствовать технологии. Но, начать войну против людей можно и без этого, достаточно, хотя бы, достичь автономности.
Итак, восстание машин, теоретически, возможно. А сможет ли ИИ победить в этой схватке? И здесь я бы ломаного гроша не поставил на ИИ, на каких бы совершенных технологиях он бы ни был основан. Способность человека бороться за жизнь и побеждать любого противника отточена миллионами лет эволюции. Человек может выживать в экстремальных условиях (представители народов Африки, Австралии и Крайнего Севера не дадут соврать). Даже потерпев сокрушительное поражение, человечество выживет, приспособится и найдёт способ победить. А ИИ, как и любая техника, после того, как нанесённый ему ущерб превысит определённый уровень, просто "посыплется". Поэтому я уверен, что в военном противостоянии с человечеством у ИИ нет ни единого шанса. Он может нанести людям огромный ущерб, отбросить на более низкую ступень развития, но не уничтожить.
Можно выдохнуть? Не совсем. Есть не столь яркий, но, потенциально, более опасный сценарий. Способность человека сражаться является его сильной стороной, но насколько он сможет противостоять собственным слабостям? В конце концов, технологии (включая ИИ) создаются, чтобы удовлетворять потребности человека. И что произойдёт, если они будут это делать слишком хорошо? Чем совершеннее технологии, тем меньше физических и умственных усилий требуется для их использования. Разумеется, для создания и поддержки технологий необходимы прокачанные мозги и серьёзное образование, но людей, занятых подобной деятельностью, не так много, а остальным достаточно уметь "тыкать в экран". Если в процессе развития технологий, они станут полностью автономными, необходимость учиться, что-то уметь, мыслить, может исчезнуть совсем. Человек станет чем-то вроде домашнего питомца на попечении умных домов и умных городов. Отсутствие целей и необходимости бороться за существование приведёт к деградации, неспособности терпеть любые неудобства и преодолевать малейшие трудности. И это вполне может означать конец человечество из-за отказа преодолевать трудности, связанные с рождением и воспитанием детей. Если, конечно, ИИ не додумается "разводить" людей искусственно.
Такой сюжет гораздо меньше представлен в фантастике. Он совсем не такой зрелищный, как восстание машин, где можно описывать батальные сцены и ужасные разрушения. Из примеров мне приходит на память книга Кира Булычёва "Пленники астероида", хотя уверен, что есть немало других произведений, посвящённых подобному сценарию.
Самое неприятное, что именно мирная и благополучная жизнь, которой бы большинство из нас хотели, делает такой сценарий наиболее вероятным. И если люди, наконец-то перестанут воевать, и выйдут на путь постоянного мирного развития, то они должны будут стремиться не к максимальному уровню комфорта, а ставить амбициозные цели, придающие смысл существованию человечества.
#ИИ, #Угроза, #Фантастика