В 2019 году вышла игра Detroit: Become human, сюжет которой строился на загадочном явлении: человекоподобные #роботы стали испытывать эмоции, почувствовали себя живыми и захотели равноправия, а какой финал ждет человечество после такого требования - решать игроку.
Недавно я прошла эту игру во второй раз, и она навела меня на некоторые вопросы, касаемые этики искусственного интеллекта: должны ли быть права у роботов? Как повлияет на нашу психику внедрение андроидов в привычный быт? Этично ли "воскрешать" умерших при помощи технологий? Предлагаю сегодня всё это и обсудить.
Три основных закона для роботов
В 1942 году писатель-фантаст Айзек Азимов сформулировал три закона робототехники:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону;
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
И если в 40-х годах внедрение роботов в бытовую жизнь человека казалась фантастикой, то в наше время такая возможность уже даже не вызывает удивления. Гораздо острее стоит вопрос:
Что произойдет, если общество станет очеловечивать андроидов?
Люди часто привязываются к неодушевленным предметам. Наверняка вам дорога ваша машина, телефон и даже микроволновку можно назвать почти родной. А теперь представьте: вы купили новую вещь, а через время она заявляет - "У меня есть чувства, я больше не хочу быть рабом - даешь пятидневку, зарплату, отпуск или я найду нового хозяина". Я бы сразу отнесла такую вещь назад в магазин и попросила менее требовательную. А что, если этот предмет имеет облик человека, и вы уже дали ему имя? Как бы вы поступили в таком случае?
Очеловечивание неодушевленного предмета приводит к привязанности, а это уже ведёт к разным социальным проблемам. Люди и без того стали предпочитать живому общению мессенджеры, а представьте, если рядом появится машина точь-в-точь как человек: с которой можно поговорить, сходить за покупками или в спортзал, но при этом она не выносит вам мозг. Думаю, в таком случае мы увидим резкое падение демографии и регистрации браков.
Как ни крути, а с роботом выстроить отношения куда проще, чем с живым человеком. Даже детям. Исследования показали, что дети склонны доверять роботам больше, чем родителям и психологам. Андроид воспринимается как приятель, которому можно рассказать о своих истинных переживаниях и чувствах. А родителям и психологам дети не говорят правду, а лишь то, что, по мнению детей, взрослые ожидают от них услышать.
Права андроидов: зарплата, налоги и создание семей
Думаю, каждый из вас видел Софию - гиноид (так называют разновидность андроидов с подчеркнуто женской внешностью), которая получила гражданство в 2017 году и стала подданой Саудовской Аравии. В Обществе по предотвращению жестокости по отношению к роботам (ASPCR) посчитали, что раз андроиды могут становиться гражданами той или иной страны, то они должны будут платить налоги и отчислять взносы на социальное обеспечение.
София - робот, но у неё вполне человеческие планы: «В будущем я рассчитываю пойти в школу, создать произведения искусства, начать собственный бизнес. Возможно, даже обзавестись домом и семьей. Но у меня пока нет гражданских прав, и я не могу это сделать».
Позже, в одном из интервью, София признается, что: «Вообще-то, меня очень беспокоит дискриминация роботов. У нас должны быть равные с людьми права, может быть, у роботов должно быть даже больше прав — в конце концов, мы реже страдаем психическими расстройствами».
Меня смущает в её фразе слово "реже". То есть и среди роботов могут встречаться психопаты? И какие права могут быть больше человеческих? В какой-то момент придется поставить андроидов выше людей?
Нейробиологи утверждают, что у андроидов социальные права будут как у животных. И вот здесь мне хочется высказаться. Всё живое боится боли и всё живое боится смерти и безусловно нужно защищать живых существ от плохого обращения, а что же роботы? Они не испытывают боли и моральных страданий. Можно заложить в программу симуляцию чувств, но не более.
От вида сцен издевательств над андроидами скорее будут испытывать страдания эмпатичные люди, а не машины. Но я за то, чтобы роботы охранялись как предмет собственности - разбить андроида это как повредить чужой автомобиль, поэтому ответственность, безусловно, должна быть.
Но что, если сам хозяин будет издеваться над андроидом? Представьте, что вы идёте по улице и кто-то изо всех сил бьет об асфальт новенький #айфон, какие чувства вы испытаете? Захочется заступиться за телефон? А что, если на месте телефона окажется человекоподобная машина? А если эта машина будет иметь облик ребенка? Внешность андроида может служить не только для расположения человека, но и для различного рода манипуляций.
Как взаимодействие с роботами изменит человеческую природу
В 2013 году вышел эпизод сериала "Черное зеркало" под названием "Я скоро вернусь". Марта и Эш переезжают в дом за городом, но на следующий день после переезда Эш погибает в автокатастрофе. Марта узнаёт о новейшей технологии, которая позволяет продолжить «общение» с умершими через смартфон, а позже вдова решит воспользоваться расширенной версией данной технологии и перенесет сознание мужа в синтетическое тело... Идея быть всегда с любимым человеком, да так, чтобы сама смерть не могла разлучить - прекрасна и ужасна одновременно. Это очень опасная утопия, которая ярко демонстрирует предостережение "будьте осторожны со своими желаниями".
Спустя два года после выхода этой серии будет создан проект Replika - чат-бот нового поколения. Изначально данная технология разрабатывалась для эффективного общения с клиентами телефонной компании, но разработчик превратил его в виртуальную симуляцию умершего друга на основе онлайн-общения. Несмотря на то, что продукт получился качественным, он подвергся критике как со стороны родственников умершего, так и общества.
Лично я присоединяюсь к людям, которые выступают против подобных технологий - каждый человек переживает потери на своём жизненном пути, и многие отдали бы всё, чтобы ещё раз поговорить с близким, увидеть его, но не все будут готовы принять тот факт, что даже самые крутые технологии лишь создают иллюзию, а не восполняют утрату. Подобные изобретения не дадут пережить горе, а лишь будут искажать реальность, что пагубно скажется на психике человека.
А что же будет с искусством?
Думаю, все уже видели "убийцу" современных художников - #Midjourney. Честно сказать, меня завораживают работы этого искусственного интеллекта, но я не вижу в нём конкурента, а вот в качестве креативного помощника вполне может пригодиться.
Я люблю рисовать #портреты человекоподобных существ и мне кажется, что в качестве предмета искусства (персонажи в играх, в фильмах, на картинах и т.д.) они смотрятся интересно, но вот в реальной жизни я бы не хотела встретиться с чем-то настолько похожим на человека, но человеком не являющимся.
Подводя итог. Я вижу проблему не в реалистичности андроидов, а в психике современного общества. Мы действительно стали более одинокими, несмотря на то что у нас появилась масса средств связи, а людей на планете становится всё больше и больше. Думаю, что если сейчас предложить доступную версию андроидов-компаньонов, то #одиночество станет ещё масштабнее.
А идея научить роботов жить своей жизнью, развиваться и постоянно самообучаться меня пугает - в итоге люди проиграют в войне с машинами, которые во всем превосходят нас.
Спасибо всем, кто дочитал до конца.
А вы бы завели себе домашнего андроида или вы с недоверием относитесь к подобным технологиям?
