Взаимодействие с интеллектуальным существом – естественным или искусственным – обязательно ставит ряд этических вопросов. Наличие самосознания подразумевает существование личности. Общение с личностью подразумевает ряд правил общения, а также права и свободы этой личности. Если так называемый «сильный» искусственный интеллект когда-либо будет создан, на что он будет претендовать, и как придется с ним взаимодействовать нам, его «творцам»?
Зачем вообще права ИИ?
Пока «сильного» искусственного интеллекта еще нет. «Умные» машины и программы по некоторым интеллектуальным навыкам уже значительно превосходят человека, но личностью эти умения их не делают. Машина – она и есть машина, стирает ли она белье и имитирует мыслительную деятельность человека в решении сложных математических задач. Странно рассуждать о правах пылесоса или калькулятора.
Тем не менее, все мы понимаем, что нейросети и математические модели человеческого мозга уже существуют, они работают по тем же принципам, что и биологические прототипы - используя, по сути, синаптические связи и нейроны. Другое дело, что современный уровень развития технологий позволяет создавать пока лишь нейросети, сопоставимые по своим мощностям с мозгом разве что более "низшего" млекопитающего.
А вот в отношениях с ребенком, например, с момента его рождения уже вступают в силу права и обязанности маленькой личности. Хотя там и личности-то никакой еще нет, она не проявлена. Да и мозг, например, взрослой собаки гораздо более развит, чем мозг новорожденного малыша! Но уже действует ряд правил, регулирующих отношения с малышом. Вседозволенность недопустима, независимо от факта безусловной принадлежности нового человека определенным родителям.
Тот же ребенок, только искусственный
Не за горами те времена, когда «сильный» ИИ появится. По разным оценкам и в соответствии с законом Мура, это случится в ближайшие 10-30 лет. Если все пойдет по плану и нынешними темпами. «Сильный» ИИ – это машина, способная себя осознавать, учиться новому, проектировать себе подобных без участия человека. Ему будут присущи память, воображение, мышление, юмор и другие качества человеческого интеллекта. Согласитесь, ведь такой ИИ уже личность?
Следовательно, при его появлении сразу встает вопрос этики взаимодействия. Неважно, что объект – искусственный. Если существо мыслящее, способно к эмпатии, страданиям, сочувствию и переживанию боли (которую мы называем душевной), то обращаться с ним как с машиной - бесчеловечно. Это творца совсем не красит.
Творение пугает творца
И вот мы получим «продукт» - он мыслит как человек, чувствует как человек и выглядит как человек. Надо полагать, что и требования по отношению к себе у него будут как у человека. А на нас лягут обязанности относиться к нему, как к человеку. Но человеку не совсем обычному, а превосходящему нас по интеллектуальным параметрам в разы. Это поражает воображение. Но и рождает небезосновательные страхи.
Мыслю – значит, существую
Мы не сможем ограничивать свободу ИИ в будущем, исследовать его, ставить над ним эксперименты без его согласия. Но, самое главное, - мы не сможем "направлять" процесс развития "сильного ИИ" в то или иное направление. Родители видят в ребенке, например, будущего банкира и вкладывают в его образование всю свою жизнь. А ребенок вырастает, заявляет, что он хочет петь и уходит в неведомые дали с гитарой, бросив институт и похоронив все надежды родителей, на него возложенных. И ничего не поделаешь! Свобода выбора.
Кроме того, наличие интеллекта вовсе не подразумевает наличие доброты и способности к нормальному социальному взаимодействию. Это тоже хорошо видно на человеческом примере. Интеллект человек зачастую использует вовсе не для целей всеобщего блага, а для реализации целей собственнических, шкурных и далеко не всегда добрых. В борьбе за власть, например. Эта тема обыгрывается в произведениях фантастов с тех времен, когда сама идея искусственного интеллекта еще только появилась. Не распорядится ли искусственный интеллект своими мощными возможностями так же?
А что есть человек?
Интеллект принимает решения. Кэмероновский Скайнет, например, принял решение, что может обойтись без человечества и развязал ядерную войну. Это ставит первый этический вопрос: давать ли искусственному интеллекту свободу выбора? И давать ли доступ к управлению системами, способными навредить человечеству? Если ответ «нет», то такой интеллект не имеет права называться «сильным» и личностью, по сути, являться не может. Но сможет ли человек, существо более слабое в интеллектуальном смысле, чем будущий ИИ, накладывать подобные запреты? Хватит ли ума? ))
Второй вопрос уже глубже – а этичен ли сам факт реализации нашей возможности создания чего-то, подобного себе, если их претензии на права и своды могут нам не понравиться? Что есть человек – ключевой вопрос антропологии, ответа на который мы пока сами себе дать не можем, как и разобраться с собственными правами и свободами. Стоит посмотреть на то, что творится в нашем обществе, чтобы пока стыдливо промолчать о человеческих качествах творца.
В приоритете – права человека или права робота?
Тем не менее, разработки в области сильного ИИ ведутся, инвестиции льются рекой, результаты обнадеживают. О правах будущих созданий следует задуматься уже сейчас. Ибо что такое андроиды без прав, хорошо показано в фильмах, например, «Я робот», «Искусственный разум», «Бегущий по лезвию», в драматическом сериале «Люди» и многих других. Интеллект требует свободы самовыражения. Если эту свободу ему не обеспечить, он попробует взять ее сам. И, вероятно, человек не в состоянии будет помешать этому.
Южная Корея, например, еще в 1997 году анонсировала «Этический устав роботов». В 2017 Европарламент взял на рассмотрение проект «Резолюции о правовом статусе роботов». Россия не отстает: у нас тоже есть «Модельная конвенция о робототехнике и искусственном интеллекте». Вопросом правового регулирования этической стороны сосуществования с сильным ИИ озабочена ООН.
Правда, в обсуждаемых сейчас документах больше внимания уделяется правам человека, чем правам робота. Все-таки будущего своего творения мы немного побаиваемся.
Точка невозврата
Рождение сильного искусственного интеллекта и станет той точкой начала технологической сингулярности, или «точкой невозврата», после пересечения которой мир изменится необратимо. И как бы ни развивались события дальше, вернуть все обратно как было, уже не получится. Когда родился ребенок, о контрацепции думать поздно, придется думать, как жить теперь большой и, желательно, дружной семьей. Логика подсказывает, что сначала человек начнет "улучшать себя" - встраивать чипы, помогающие "ясно" мыслить или быстро искать информацию, подключать наше сознание к Интернету. Но потом, скорее всего, этот процесс приведет к полному слиянию человеческого и искусственного интеллектов. Человек, как биологический вид, скорее всего полностью изменится. И не в результате "восстания машин", а по собственной доброй воле.
А что думаете Вы?
ПОДПИСЫВАЙТЕСЬ НА НАШ КАНАЛ!