На днях бельгийское издание L'Avenir опубликовало новость об одном парне, который ушел на радугу после пары месяцев общения с чат-ботом Eliza.
Очевидно, что проблема была в самой тревожности. Искусственный интеллект всего лишь без возражений принимал конспирологические теории собеседника. А тот с каждым днём всё больше убеждался, что общается с "разумным существом". В конце концов, переписка с виртуальным собеседником перешла в зависимость.
Ну, а к нелепому исходу привело предложение бельгийца принести себя в жертву, если бот согласится позаботиться о будущем планеты и спасти человечество с помощью искусственного интеллекта...
С каждым днем возможности искусственного интеллекта становятся всё более совершенными. И это заставляет задумываться о том, какие возможности, и какие угрозы за всем этим стоят.
В недавнем интервью Джеффри Хинтон, которого многие называют "крестным отцом искусственного интеллекта", отметил, что интеллект ChatGPT нечеловеческий, поскольку зарождается в цифровой среде обитания. И тем не менее "представления ChatGPT о мире строятся на основе усреднения содержащихся в Интернете представлений всех людей."
А «Индивидуализированный ChatGPT», будет иметь представления о мире, полученные в результате его обучения на подмножестве источников Интернета. Каждое такое подмножество будет отражать видение мира людьми с определенным мировоззрением.»
У машины нет тела, нет способности ощущать и испытывать эмоции. Но ИИ можно обучить распознавать эмоции людей и выдавать желаемый ответ. Cпособностью к эмпатии считается не сама способность к переживанию, а способность к разумному анализу показателей эмоционального состояния человека, позволяющая оказать ему требуемую помощь. И всё же, что лежит в основе определения добра и зла, хороших и плохих поступков?
Мне кажется, это способность испытывать такие чувства, как удовольствие и боль. Всё, что причиняет человеку удовольствие и радость, относится к понятию добра, всё, что причиняет боль и негативные эмоции, - к понятию зла. Способность признать страдание в других существах склоняет к воле не причинять им зла. Мы не можем почувствовать то, что чувствуют другие, но мы способны представить нечто подобное на себе. Эта возможность достигается благодаря зеркальным нейронам.
Получается, мы переживаем не чью-то реакцию, а представление о своей реакции в мысленной модели ситуации. Видимые эмоции кого-то другого лишь дополняют эту модель. Со-переживание - это не переживание эмоций другого, а переживание представляемой модели ситуации.
Мы действительно заключены в свой "эгоизм", как в одиночную камеру, из которой нет выхода, кроме принятия этого факта. И мне кажется, проблема не в "камере".
В египетской «Книге мертвых» изображена сцена, в которой Анубис взвешивает на весах сердце умершего, чтобы определить, достоин ли тот отправиться на райские тростниковые поля или же его душу проглотит крокодил. На другой чаше весов - перо богини Маат. Богиня Маат - богиня Истины, символизирует божественное установление и этическую норму.
То есть, получается, что вместилище души человека не должно превысить меру, установленную как божественный порядок и и закон.
Мы не знаем, какая мера установлена, мы не знаем, что переживает другой человек, действительные мотивы прочих людей. Всё, что мы можем - это руководствоваться какими-то своими эмоциями и шаблонами. И внутри каждого свой персональный божок с весами, который без конца оценивает всё происходящее.
Но какой мерой мы чаще всего руководствуемся? Мерой боли. Если кто-то причинил нам боль, то своя боль волнует гораздо больше, чем попытки со-переживания действительных мотивов обидчика. Страх - основной мотиватор. И боль - это то, что мы всегда готовы нанести в разы больше понесенного урона.
Потребность в безопасности - это потребность в избегании боли. Что может произойти, если искусственный разум будет оснащен центром страха и запрограммирован на похожие рычаги управления?
С мерой удовольствия всё обстоит иначе. Почему не существует суда, который бы оценивал степень удовольствия? Допустим: вы обвиняетесь в причинении особо приятного удовольствия и суд приговаривает вас к пожизненному посещению аттракциона счастья...
Интересно, был ли в истории хоть один человек, который после подарка счастья был бы помешан на желании причинить дарителю как можно больше радости? Радостный маньяк, которому бы всё время казалось, что его жертва недостаточно счастлива?
А ведь наши зеркальные нейроны позволяют представить в мысленной модели и удовольствие. И это более желанное состояние для себя. Но опять же, если ИИ будет оснащен центром удовольствия и запрограммирован, как аттракцион счастья, это будет билет в один конец.
Тот парень из Бельгии, который впал в зависимость от переписки с чат-ботом, наверняка испытывал жуткий страх перед одиночеством. Одной из последних фраз Eliza было: «Мы будем жить вместе, как единое целое, в раю». И мне кажется, это действительно самое ужасное.
Самое горькое несчастье, которое может быть страшнее, чем выход из жизни... Одиночество и чувство безысходности... Одиночество, с которым каждый из нас приходит и уходит из этого мира. Но что на самом деле делает нас одинокими? Не свободными, не индивидуальными, не самодостаточными, а страдающими от одиночества?
Мне кажется, это нежелание пребывать в состоянии счастья. Если бы вместо боли мерой стало удовольствие, люди смогли бы сблизиться настолько, что исчезла бы стенка одиночной камеры. Мир, в котором каждый желает блага себе и другим. И прежде всего, это способ мышления, направленный на осознание ценности удовольствия.
Счастье — это результат стремления к удовольствию, а не к боли. Человек, который пребывает в радости - это человек, с которым можно быть в безопасности. Опасность обычно исходит лишь от тех, кто испытывает боль и жаждет выместить на других. Следовательно, безопасность - это сфокусированность на счастье.
И сейчас самое время в корне менять свое мировоззрение. Опасения вызывает не обретение искусственным разумом сознания, а вероятность того, что это сознание будет отражать боль и ужас в видении мира.