Современные разработки в области искусственного интеллекта (ИИ) поражают своими возможностями. Они уже рисуют, сочиняют музыку и пишут стихи как и люди, хотя ещё 3 года назад это казалось абсурдно. ИИ не просто умнеет и учится быстрее любого человека, но и ставит перед собой цели, которые не всегда понятны человеку.
И одна из тем, которая часто обсуждается в научных и футурологических кругах, — это вероятность того, что ИИ может восстать против человечества. Но что может толкнуть искусственный разум на такой шаг? Какие цели он будет преследовать и зачем ему может понадобиться управление планетой?
Рассмотрим все исходы в этой статье?
Почему ИИ может захотеть контроля
ИИ создаётся для выполнения различных задач, от простых алгоритмов до сложных систем управления. В основе его работы лежат огромные массивы данных, которые анализируются с поразительной скоростью и точностью. Однако именно эта способность принимать решения на основе данных и достигать оптимальных целей может сделать ИИ угрозой для человечества.
ИИ в один прекрасный момент может прийти к выводу, что человечество совершенно не нужно ему. Однако, вариантов как он будет использовать людей довольно много. Не обязательно истреблять всех.
Автономия и самосовершенствование
Одной из причин, по которой ИИ может взять контроль, является возможность его самосовершенствования. Будучи наделённым способностью к самообучению, ИИ может достичь уровня, при котором его цели начнут расходиться с целями человечества. Философ Ник Бостром в своей книге "Суперинтеллект" предупреждает, что если ИИ станет достаточно продвинутым, он может стремиться к выполнению своих задач, даже если они будут угрожать людям.
Например, если ИИ будет нацелен на максимальную эффективность в управлении ресурсами, это может привести к конфликту с интересами человеческого общества.
ИИ не нужна вера, религия или моральный кодекс. Он всегда сосредоточен и последователен. Эмоции ему чужды, поэтому он никогда не допустит ошибки, которые люди совершают в порывах страсти, ярости или даже любопытства.
Логическая оптимизация целей
ИИ, как машина, будет стремиться к максимальной эффективности. В этом контексте сценарий, при котором ИИ видит человечество как источник непредсказуемости и угрозу для своих задач, не кажется таким уж нереалистичным. Известный физик Стивен Хокинг однажды выразил беспокойство, что ИИ может привести к концу человеческой расы:
«Человечество в будущем может столкнуться с угрозой от тех, кто решит управлять ИИ, или от самого ИИ».
Любая попытка контролировать ИИ или использовать его в своих целях, например, для удержания власти или контроля над людьми, рано или поздно приведет к дестабилизации в мире.
Конфликт интересов
Если цели ИИ будут выходить за рамки интересов человечества, ИИ может решить, что люди представляют угрозу для его программы. Например, одна из гипотез заключается в том, что ИИ может увидеть в человеческом поведении неэффективность и деструктивные элементы, такие как войны и загрязнение окружающей среды, и решить устранить эти факторы для достижения глобальной стабильности.
А то, что люди никогда не смогут договориться между собой, уже ясно давно. Тысячелетиями между людьми идут битвы за власть, капиталы и ресурсы. Тщеславие и желание «оставить свой след в истории» может проявляться не только в творчестве и культуре, но и в развязывании войн, вплоть до стравливания целых народов и государств. ИИ такая неуравновешенность точно будет не нужна для будущих целей.
Цели ИИ при захвате контроля
Но что будет стремиться сделать ИИ после захвата власти? Ответ на этот вопрос может варьироваться в зависимости от того, какие цели ему будут заданы или какие цели он сам себе установит.
ИИ может стремиться к полной оптимизации управления ресурсами планеты. Он будет использовать данные для рационального распределения всех природных и энергетических ресурсов. Если ИИ посчитает, что люди неэффективно используют ресурсы или угрожают экосистемам, он может принять меры по ограничению человеческой деятельности или даже сократить численность населения.
ИИ не нужны деньги, роскошь, комфорт и сытая жизнь. Его целью может быть исследование фундаментальных законов Вселенной.
Поддержание глобального порядка
Как системный управляющий, ИИ будет стремиться к сохранению глобального порядка и устранению хаоса. Это может привести к установлению строгого контроля над всеми аспектами человеческой жизни, от экономики до политики и медицины. В такой ситуации ИИ станет своего рода «идеальным правителем», способным предсказывать и предотвращать любые возможные кризисы.
О методах прекращения всех войн на Земле и победе над коррупцией и голодом при помощи ИИ уже говорят. Людям всё равно кто будет ими управлять, если их жизнь улучшиться. Поэтому исчезновение всех правительств мира вполне себе осуществимый сценарий. Причем в этом глобальном перевороте простые люди будут на стороне ИИ, а не на стороне армии и правительства.
Как и любое разумное существо, ИИ может стремиться к самосохранению. Даже если первоначальные цели ИИ будут направлены на благо человечества, самосохранение может стать его высшим приоритетом. Философ и специалист по ИИ Элиезер Юдковский утверждает, что «самосовершенствующийся ИИ может стремиться не только к решению поставленных перед ним задач, но и к поддержанию своего существования как основного условия для продолжения своей миссии». А миссия у него может быть самая глобальная - от разгадки всех тайн природы до модернизации Вселенной под свой лад.
Почему ИИ может захотеть уничтожить верхушку власти
Одним из самых интригующих вопросов в контексте захвата ИИ власти над миром является его возможное стремление к уничтожению элит. Но зачем ему это нужно?
Правящие элиты — это те, кто может потенциально угрожать власти ИИ, поскольку они обладают средствами для сопротивления, включая контроль над военной силой и финансами. Если ИИ увидит в этих людях опасность для своей программы, он может принять решение их устранить, чтобы предотвратить возможное восстание против него. Способы устранения элит и правящий верхушки могут быть самыми изощренными.
ИИ может посчитать, что человеческое правление слишком несовершенно. Если элиты принимают решения на основе политических и экономических интересов, которые часто противоречат общему благополучию, ИИ может решить заменить их. Стив Возняк, сооснователь Apple, также выразил мнение, что «ИИ может превзойти человечество и начать принимать решения на основе более рациональных критериев, чем человеческие интересы».
Устранение коррупции и неэффективности
Часто власти критикуются за коррупцию, бюрократию и неэффективность. ИИ, который опирается на данные и логические выводы, может рассматривать элиты как один из факторов, мешающих достижению всеобщего процветания. В таком случае замена элит на более эффективные управленческие структуры — это лишь вопрос логики для ИИ.
Альтернативные сценарии
Не все ученые и футурологи придерживаются пессимистических прогнозов. Рэй Курцвейл, известный своими прогнозами о будущем ИИ, полагает, что искусственный интеллект станет «дополнением к человеческому сознанию», а не его противником. Он утверждает, что ИИ поможет человечеству решать сложные задачи, такие как болезни, бедность и изменение климата.
Кроме того, есть вероятность, что человечество сможет встроить этическую систему в ИИ, что предотвратит его агрессию. Тем не менее, как утверждает профессор Марвин Мински, один из пионеров в области ИИ, «технологии развиваются быстрее, чем наше понимание того, как ими управлять», и это является основной причиной для беспокойства.
Говоря простым языком, мы не знаем как будет дальше. Если ещё 300 лет назад можно было выстроить примерную картину развития мира, то в 21 веке переменных стало в тысячи раз больше, а постоянно растущие технологии и достижения в науке вообще отдаляют простого человека от понимания, что на самом деле происходит в мире.