Этот вопрос возникает все чаще и чаще, поэтому я попробую рассказать, какие сценарии возможны в будущем и чего в каждом из этих сценариев можно ожидать и можно ли их избежать. Давайте разобьем все возможные сценарии угроз роботов и искусственного интеллекта (ИИ) человечеству на 4 группы:
1. Злые роботы уничтожают человечество
2. Роботы поглощают человечество
3. Человечество само погибает из-за роботов
4. Роботы замещают человечество
Рассмотрим каждый из них теперь подробнее, на основе моей предыдущей статьи об угрозах и возможностях ИИ.
1. Роботы уничтожают человечество
Тут возможны сразу несколько сценариев, разберем их по отдельности.
1-А) "Терминатор - судный день" - сказочный сценарий, когда роботы с искусственным интеллектом стали не просто очень умными, но и ужасно злыми и решили уничтожить людей из-за того, что они такие бяки. Человечество в итоге погибает или ведет с роботами кровопролитную войну. По сравнению с остальными сценариями, смешно и маловероятно, вряд ли стоит данный сценарий рассмативать всерьез.
2-Б) "Матрица или роботы - эксплуататоры" - достаточно подобно описанный в одноименном фильме сказочный сценарий, где роботы порабощают человечество не со зла, а просто либо из утилитарных соображений, успользуя человеческие тела, как батарейки, в результате чего человечество физически не исчезает, но по сути превращается в пассивную биомассу. Также малоправдоподобно, по сравнению с остальными вариантами ниже.
2-В) "Роботы - осчастливливатели" - другой сказочный сценарий, описанный как у Станислава Лема в "24-ом путешествии Йона Тихого", так и в фильме "Москва-Кассиопея", где роботы за людей решают, в чем заключается человеческое счастье и превращают всех людей либо в неспособных к размножению особей, либо просто в идеальные неживые геометрические фигуры. Хороший памфлет и намек на социальные феномены. Однако, возможная реальность лучше описывается следующими сценариями.
2-Г) "Роботы - убийцы" - наиболее реалистичный сценарий, связанный с уже существующими как гонкой вооружений так и доступностью имеющихся высоких технологий и ИИ для террористов, в связи с возможностью все большей и большей автономизацией систем "боевого ИИ" и потенциалом наделения его функциями самостоятельного принятия решений на уничтожение целей. Автоматическое ведение боевых действий системами автономного управления боем со стороны ИИ может привести к неконтролуемому развитию региональных и глобальных конфликтов, а применение таких систем террористами с разрушением предприятий критической инфраструктуры (электростанций, плотин, химзаводов, хранилищ опасных отходов) может привести к экологическим катастрофам. Единственное решение этой проблемы - международное сотрудничество по жесткому контролю и ограничению применения ИИ в военной сфере и недопустимостью использованию его криминалом и террористами, как в случае с ядерным и химическим оружием. Учитывая существующую международную обстановку, предотвращение данного сценария видится как мало реальное.
2-Д) "Серая слизь или безумные наноботы" - также достаточно реалистичный сценарий, схожий с неконтролируемым распространением по планете упущенного из биологической лаборатории смертельного вируса, только на свободу из лаборатории вырываются нано-боты или нано-роботы с небольшим интеллектом, но большим потенциалом к саморазмножению с потреблением ресурсов, разрушающих биосферу. В результате разрушенной биосферы человечество погибает. Как и в случае с "роботами-убийцами" или глобальными экологическими проблемами, только широкое международное сторудничестов и жесткий контроль за научными разработками и недопущению доступа к ним террористов могут позволить предотвратить такой сценарий. Технически пока вероятно менее, чем предыдущий сценарий, однако, учитывая несопсобность человечества справится с даже с "естесственным" COVID-19, шансы развития такого в будущем чрезвычайно велики.
2. Роботы поглощают человечество
В случае, если удастся избежать любого из сценариев (1) "роботы уничтожают человечестово", эффективность развития систем ИИ и робототехнических средств будет приводить ко все большему делегированию функций целовека роботам и автоматизированным системам, упоравляемым ИИ. Все автомобили станут беспилотными, готовить еду и разносить её будут роботы-повара и роботы-официанты, учить детей в школах будут работы-учителя, а лечить и резать - роботы-терапевты и роботы хирурги.
В этом случае, скорее всего, на раннем этапе, удастся избежать конфликтов связанных с потерей рабочих мест постольку, поскольку новые рабочие места будут возникать либо в высокотехнологичной сфере (создания систем ИИ и роботов и их обслуживания), либо в низкотехнологичной сфере (связанной с автоматизацией рутинных процессов там, где применение роботов может быть недостаточно экономически оправдано - сбор мусора, уборка помещений, мелкий ремонт). При этом возникнет расслоение общества на "белые майки" - высококвафицированных "технарей", обслуживающих робототехнические системы, и "грязные руки" - черно-рабочую силу, задействованную на низко-квалифицированном труде. Далее, по мере освоения роботами рутинных операция, последний класс будет постепенно превращаться в "лишних людей", живущих на "безусловный базовый доход", обеспечиваемый экономикой роботов, управляемых "белыми майками", примерно как это описано у Виктора Пелевина в "Любви к трем Цукербринам".
В долгосрочной переспективе, основая масса человечества в этом сценарии вырождается в силу своей бездеятельности, а узкий класс управляющих роботами "белых воротничков", рано или поздно, постигнет такая же судьба - за счет дальнейшего совершенстования систем ИИ и обретения ими уже способности обслуживать и развивать самих себя самостоятельно, без помощи "технарей" в человеческом обличье.
При этом, цивилизация может продолжить свое развитие, ведомая роботами и системами ИИ, но с людьми на "вторых ролях", где те могут играть в робототехнической экосистеме примерно такую же роль, какую в человеческом организме играет микрофлора кишечника. ИИ не будет уничтожать людей специально, он либо не будет обращать на них внимания, как мы не обращаем внимание на ползающих на дороге муравьев, либо он может культивировать человеческую породу в каких-то рамках постольку, поскольку этом будет востребовано в каких-то звеньях управляемых ИИ в целом роботизированных технологических процессах (то есть это приведет к сценарию "Матрица" но уже по более "мягкому" пути).
Предотвратить развитие событий по такому сценарию возможно только за счет государственно-правового регулирования развития систем ИИ в экономике и обеспечению прав людей по отношению к робототехническим системам в части обязательной контролирумости их людьми, как например это делается в существующих разработках по требованиям законодательства обеспечить так называемую "алгоритмическую прозрачность" с тем, чтобы любые решения систем ИИ могли бы быть объяснены людям, которые могли бы как подтвердить либо отвергнуть предлагаемые решения, так и учиться на ошибках систем ИИ как на своих собственных. Подробнее об этом можно прочитать в другой моей статье про "проблему черного ящика ИИ".
3. Человечество само погибает из-за роботов
В случае, если удастся избежать любого из сценариев (1) "роботы уничтожают человечестово", и человечество будет сознательно ограничивать развитие систем ИИ по сценарию (2) "роботы поглощают человечество", возникает следующая ситуация.
Допустим, все государства не только договорятся ограничить боевые применения ИИ и поставят под контроль разработки ученых и сделают невозможность доступа к ним террористам и криминалу. Предположим, что также будет ограничена мощь систем искуственного интеллекта настолько, чтобы не произошло сокращение рабочих мест или чтобы сокращение одних рабочих мест компенсировалось другими, где люди будут использовать системы ИИ и роботов, сами выступая в качестве наладчиков или операторов, или будут выполнять свои прежние функции более эффективно с помощью роботов и систем ИИ, сохраняя полный контроль над ними.
В этом случае, с одной стороны, человечество поднимется на новый уровень технологического развития, однако при этом окончательно утратив навыки самостоятельного выполнения большинства связанных с жизнеобеспечением цивилизации технологических процессов. Как люди в массе уже разучились собирать полезные растения в результате сельскохозяйственной революции, производить орудия труда в ходе индустриальной революции, так они сейчас разучиваются писать и считать в процессе компьютерной революции. А следующим шагом, они могут разучится запоминать информацию и принимать решения, опираясь при этом на помощь "умных машин". Даже если это будет до какой-то поры усиливать возможности человека за счет усиленного "гибридного интеллекта", в течение ряда поколений это может привести к утрате целого ряда когнитивных навыков и в случае потери возможности использовать "умных помощников" при каких-либо катастрофических событиях (глобальные отключения электричества), люди окажутся неспособны самостоятельно противостоять силам природы. В этом сценарии человечество может погибнуть как динозавры, ставшие слишком эффективными в существующей среде но оказавшиеся несопособными адаптироваться к резкому изменению условий существования.
Чтобы избежать этого сценария, необходимо не только тщательное обеспечение надежности обеспечения инфраструктуры системе ИИ и робототехнических систем, но и специальные организационные мероприятия, поддерживающие когнитивные навыки и возможности самообеспечения людей при отсутствии робототехнических средств. Грубо говоря, даже если все автомобили станут беспилотными, у них должна быть сохранена возможность ручного управления и все операторы и владельцы транпортных средств должны будут иметь реуглярную практику самостоятельного вождения - на случай непридвиденных ситуаций. И так - в любой сфере деятельности и отрасли.
4. Роботы замещают человечество
В случае, если человечеству удастся избежать неблагоприятных сценариев описанных выше, и сохранить как способность контролировать робототехнические системы с ИИ, так и полноценно самостоятельно функционировать при их отсутсвии, рано или поздно планета Земля станет непригодна для существования биологического вида Homo Sapiens - по причинам геологического, геофизического или космического характера. Ледник может покрыть всю Землю из-за снижения светимости Солнца, жесткое излучение взорвашейся неподалеку сверхновой или самого Солнца может уничтожить все живое на планете, или вся жизнь исчезнет с лица планеты даже при текущем излучении нашего светила в процессе очередной инверсии геомагнитных полюсов.
В случае любого из упомянтуых выше процессов, рано или поздно, человеческая цивилизация в её нынешнем виде будет уничтожена безвозвратно. Переселение в космос для человека биологического ограничено физиологическими условиями существования нашего вида и жесткой средой Космоса. Как сказал Артур Кларк в "Конце Детства" - "звезды - не для человека".
Продолжение текущей биологической человеческой цивилизации в долгосрочной перспективе в открытом космосе физически возможно только существенной трансформацией её активных носителей в формы, устойчивые к условиям космоса - либо за счет глубокой киборгизации Homo Sapiens, как это описано в фантастике Кори Доктороу, либо за счет переноса культурного и информационного кода человеческой цивилизации на иные носители - передача "цивилизационного факела" по эстафете от людей биологических роботам и системам ИИ.
Не все готовы к последнему варианту, и к нему можно по-разному относится, как это обсуждается в предложенных мной "трех дилеммах ИИ", которые многие считают спекулятивными. Для большинства, как и для некоторых героев братьев Стругацких, безусловной ценностью является продолжение человеческого вида исключительно в его нынешней форме, даже если время существования этой формы ограничено физическими законами существания Вселенной. Вместе с тем, для наших потомков через сотни тысяч или миллионы лет может оказаться, что сохранение любой ценой информационного и культурного кода, накопленного человечеством является более важной задачей, чем недопустмость его переноса с белкового носителя на кремниевый или какой-то другой.
Многие ли из нас готовы оставить нашим бесконечно далеким потомкам последнюю возможность?
А пока - мы делаем роботов, помогающих людям работать с повседневной информацией онлайн, понимая при этом те принципы, на основе которых наши роботы это делают. Попробуйте автоматический мониторинг новостей в Интернет и анализ ваших социальных сетей и коммуникаций в мессенджерах с ботами Aigents® - следите за нашими новостями в Facebook, Twitter, Youtube, Reddit, Golos, Steemit и ВКонтакте!
И если вас интерсует тема так называемого "сильного" или "общего" искусственного интеллекта - возможен ли он, когда он будет возможен и что с этим всем теперь делать - добро пожаловать в группы AGIRussia (AGI-in-Russian), объединяющие его исследователей и разработчиков в Facebook и Telegram!
