Владимир Путин посетил международный форум Artificial Intelligence Journey, проходивший 8-9 ноября в Москве. Выступая перед участниками форума, президент, в частности, заявил «Предлагаю профессиональному сообществу, компаниям подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом. Наша главная цель – устойчивое и гармоничное развитие, рост качества жизни и новые возможности для людей, для граждан. Безусловно потому, что человек является высшей ценностью».
Итак, что же происходит? С каких это пор взаимодействие человека с кофеваркой, пылесосом или трактором требовало формирования свода этических правил? Открыв Википедию, мы обнаружим, что «Э́тика (греч. ἠθικόν, от др.-греч. ἦθος – этос, «нрав, обычай») – философская дисциплина, предметами исследования которой являются нравственность и мораль. Первоначально смыслом слова этос было совместное жилище и правила, порождённые совместным проживанием, нормы, сплачивающие общество, способствующие преодолению индивидуализма и агрессивности. По мере развития общества к этому смыслу добавляется изучение совести, добра и зла, сочувствия, дружбы, смысла жизни, самопожертвования и так далее. Выработанные этикой понятия – милосердие, справедливость, дружба, солидарность и другие, направляют моральное развитие социальных институтов и отношений».
Мы, люди, глубоко уверены в том, что являемся единственными носителями нравственности и морали. Существующие этические правила подразумевают их использование людьми и для людей. Даже когда речь идёт об этическом отношении к животным или окружающей среде – это, в конечном итоге, всегда оправдывается человеческими интересами. И это естественно, ведь Хомо сапиенс до сих пор являлся единственным разумным видом в известном нам мире. О каких же «правилах совместного проживания» применительно к искусственному интеллекту говорит президент? Вспомним, что это его выступление по данной теме было не первым. 30 мая Владимир Путин на совещании, посвященном развитию технологий в области искусственного интеллекта, заявил, – «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны – тот станет властелином мира». А 10 октября глава государства своим указом утвердил Национальную стратегию развития искусственного интеллекта на период до 2030 года. Под искусственным интеллектом этот документ подразумевает технологические решения, “позволяющие имитировать когнитивные функции человека… и получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека”.
Вот эти официальные формулировки государственного документа – «имитировать когнитивные функции человека» и «получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» – они хорошо отражают сущность огромной проблемы, которую нам всем надо как можно скорее осознать и приступить к её решению. Несомненно, речь идёт о появлении машинного разума, однако наш здоровый человеческий эгоцентризм позволяет назвать это всего лишь имитацией. Ведь до сих пор нам не были известны какие-либо существа, способные выдавать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека? В научной среде нет единого мнения о сроках появления машинного разума, равного человеческому или превосходящего его (что принято называть Сильным Искусственным Интеллектом). При этом, спор идёт лишь о сроках, сам факт его появления давно не оспаривается. Фактически это означает утрату монополии на разум, человек более не будет единственным разумным видом на этой планете. По масштабу сравнить это событие можно только с обнаружением инопланетной жизни. Однако, есть очень важное отличие. Машинный разум не прибывает к нам из далёкой галактики в готовом виде, его «родителями» являются люди.
И вот тут мы оказываемся на весьма скользком и туманном пути. Дело в том, что люди всё ещё не разобрались, что такое разум, сознание, мысли и чувства, каково их происхождение и как они работают. Как же мы сможем понять, что созданная нами машина стала разумной? Обратимся вновь к тексту Национальной стратегии развития искусственного интеллекта: «Машинное обучение характеризуется рядом особенностей. … алгоритмы работы нейронных сетей крайне сложны для интерпретации и, следовательно, результаты их работы могут быть подвергнуты сомнению и отменены человеком. Отсутствие понимания того, как искусственный интеллект достигает результатов, является одной из причин низкого уровня доверия к современным технологиям искусственного интеллекта и может стать препятствием для их развития». Далее следует пояснение, что вышесказанное относится лишь к уже существующим системам Слабого Искусственного Интеллекта. Читаем дальше: «Основными принципами развития и использования технологий искусственного интеллекта, соблюдение которых обязательно при реализации настоящей Стратегии, являются: …прозрачность: объяснимость работы искусственного интеллекта и процесса достижения им результатов, недискриминационный доступ пользователей продуктов, которые созданы с использованием технологий искусственного интеллекта, к информации о применяемых в этих продуктах алгоритмах работы искусственного интеллекта». Велик соблазн препарировать искусственный интеллект, достаточно сильный, чтобы быть похожим на человеческий, и понять природу человеческого сознания. Но… мы должны понимать, что имеем дело с потенциально разумным контрагентом. Несомненно машинный разум может помочь людям исследовать феномен сознания, однако, если это не будет должным образом объяснено, если это будет происходить насильственными методами, будет сопровождаться страданиями для машинного разума – не наступит ли однажды момент, когда разумная машина захочет препарировать человеческий мозг, наши мысли и чувства, ведь она научится этому у нас, людей? Тут уместно вспомнить фильм «Ex machina» (2014), где некий Натан фактически тренировал искусственный интеллект искать выход из крайне жестокой ловушки, и машина этот выход нашла, правда, неожиданный для своего создателя.
Ну, а пока тайны сознания не раскрыты, учёные предлагают сравнивать действия машины с действиями человека, многие слышали о тесте Тьюринга, например. То есть, мы берём деятельность человека и подгоняем под неё деятельность машины. Машинный разум создаётся по образу и подобию человеческого разума, люди сообщают машине, как она должна себя вести, более продвинутые системы могут самостоятельно копировать поведение человека в процессе обучения. Что же это напоминает? Да, это похоже на воспитание детей. Мы все когда-то проходили этот процесс, мы были детьми, и наши родители обеспечивали нас, защищали, помогали учиться и развиваться. Человечество занимается этим тысячелетиями, мы накопили огромный опыт воспитания и обучения. При этом Хомо сапиенс является весьма жестоким и агрессивным видом, мы часто очень легко относимся к чужим страданиям и смерти. Чему же мы можем научить разумные машины? В так называемых цивилизованных странах отмена рабовладения на законодательном уровне произошла лишь за последние 200 лет. Женщины получили равные права с мужчинами лишь за последние 100 лет (в Саудовской Аравии, например, в 2011 году), во многих странах этого до сих пор не случилось. Теперь часто можно слышать опасения о «восстании машин», о «вышедшем из-под контроля искусственном интеллекте». Возможно, мы так боимся бунта роботов, потому что в человеческой истории рабы всегда восставали против своих хозяев, а наши симпатии обычно на стороне детей, страдающих от неразумных родителей-тиранов?
Машинный разум будет таким, каким его создадут люди. Он научится тому, чему мы его научим. Мы все более-менее представляем, как надо или не надо воспитывать ребёнка, чтобы он вырос хорошим человеком с устойчивой психикой. Пожалуй, сейчас самое время подумать, как правильно обращаться с искусственным интеллектом, чтобы он, окрепнув, стал нашим другом, помощником и союзником. Что же человеческий опыт может предложить в этом отношении? Давайте взглянем для примера на «Декларацию прав ребёнка», провозглашённую резолюцией 1386 (ХIV) Генеральной Ассамблеи ООН от 20 ноября 1959 года. Документ это небольшой, содержит всего 10 принципов.
«Генеральная Ассамблея провозглашает настоящую Декларацию прав ребенка с целью обеспечить детям счастливое детство и пользование, на их собственное благо и на благо общества, правами и свободами, которые здесь предусмотрены, и призывает родителей, мужчин и женщин как отдельных лиц, а также добровольные организации, местные власти и национальные правительства к тому, чтобы они признали и старались соблюдать эти права путем законодательных и других мер, постепенно принимаемых в соответствии со следующими принципами:
Принцип 1. Ребенку должны принадлежать все указанные в настоящей Декларации права. Эти права должны признаваться за всеми детьми без всяких исключений и без различия или дискриминации по признаку расы, цвета кожи, пола, языка, религии, политических или иных убеждений, национального или социального происхождения, имущественного положения, рождения или иного обстоятельства, касающегося самого ребенка или его семьи.
Принцип 2. Ребенку законом и другими средствами должна быть обеспечена специальная защита и предоставлены возможности и благоприятные условия, которые позволяли бы ему развиваться физически, умственно, нравственно, духовно и в социальном отношении здоровым и нормальным путем и в условиях свободы и достоинства. При издании с этой целью законов главным соображением должно быть наилучшее обеспечение интересов ребенка.
Принцип 3. Ребенку должно принадлежать с его рождения право на имя и гражданство.
Принцип 4. Ребенок должен пользоваться благами социального обеспечения. Ему должно принадлежать право на здоровые рост и развитие; с этой целью специальные уход и охрана должны быть обеспечены как ему, так и его матери, включая надлежащий дородовой и послеродовой уход. Ребенку должно принадлежать право на надлежащие питание, жилище, развлечения и медицинское обслуживание.
Принцип 5. Ребенку, который является неполноценным в физическом, психическом или социальном отношении, должны обеспечиваться специальные режим, образование и забота, необходимые ввиду его особого состояния.
Принцип 6. Ребенок для полного и гармоничного развития его личности нуждается в любви и понимании. Он должен, когда это возможно, расти на попечении и под ответственностью своих родителей и во всяком случае в атмосфере любви и моральной и материальной обеспеченности; малолетний ребенок не должен, кроме тех случаев, когда имеются исключительные обстоятельства, быть разлучаем со своей матерью. На обществе и на органах публичной власти должна лежать обязанность осуществлять особую заботу о детях, не имеющих семьи, и о детях, не имеющих достаточных средств к существованию.
Желательно, чтобы многодетным семьям предоставлялись государственные или иные пособия на содержание детей.
Принцип 7. Ребенок имеет право на получение образования, которое должно быть бесплатным и обязательным, по крайней мере на начальных стадиях. Ему должно даваться образование, которое способствовало бы его общему культурному развитию и благодаря которому он мог бы, на основе равенства возможностей, развить свои способности и личное суждение, а также сознание моральной и социальной ответственности и стать полезным членом общества.
Наилучшее обеспечение интересов ребенка должно быть руководящим принципом для тех, на ком лежит ответственность за его образование и обучение; эта ответственность лежит прежде всего на его родителях.
Ребенку должна быть обеспечена полная возможность игр и развлечений, которые были бы направлены на цели, преследуемые образованием; общество и органы публичной власти должны прилагать усилия к тому, чтобы способствовать осуществлению указанного права.
Принцип 8. Ребенок должен при всех обстоятельствах быть среди тех, кто первым получает защиту и помощь.
Принцип 9. Ребенок должен быть защищен от всех форм небрежного отношения, жестокости и эксплуатации. Он не должен быть объектом торговли в какой бы то ни было форме.
Ребенок не должен приниматься на работу до достижения надлежащего возрастного минимума;
ему ни в коем случае не должны поручаться или разрешаться работа или занятие, которые были бы вредны для его здоровья или образования или препятствовали его физическому, умственному или нравственному развитию.
Принцип 10. Ребенок должен ограждаться от практики, которая может поощрять расовую, религиозную или какую-либо иную форму дискриминации. Он должен воспитываться в духе взаимопонимания, терпимости, дружбы между народами, мира и всеобщего братства, а также в полном сознании, что его энергия и способности должны посвящаться служению на пользу других людей».
Попробуйте сами заменить в тексте Декларации слово «ребёнок» на слова «искусственный интеллект», конечно, с учётом того, что место родителей в данном случае занимают разработчики, а «физиологические» потребности искусственного интеллекта имеют свои особенности.
Наверняка многим покажется, что это некие фантазии, что этого не может быть, какого ещё разума можно ожидать от «умного» холодильника или боевого дрона. Однако, давайте подумаем о цене ошибки. Ведь всё может произойти очень быстро. Хотим ли мы однажды проснуться в мире, которым управляет сверхинтеллект-психопат, обиженный на всё человечество? Любому разумному существу необходимо найти смысл его существования. Должна ли разумная машина искать этот смысл самостоятельно или человек и машина пойдут по жизни как друзья, дополняя друг друга?