Пожилой кореец по имени мистер Ли, одетый в блейзер и слаксы, сжимает подлокотники кресла и наклоняется к своей жене. “Дорогая, это я”, - говорит он. “Прошло много времени”.
“Я никогда не думала, что это случится со мной”, - отвечает она сквозь слезы. “Я так счастлива сейчас”.
Мистер Ли умер. Его вдова разговаривает с его изображением, созданным с помощью искусственного интеллекта и проецируемым на стену.
«Пожалуйста, никогда не забывай, что я всегда с тобой, — говорит проекция. — Будь здорова, пока мы не встретимся снова».
Этот разговор был снят в рамках рекламной кампании Re;memory — инструмента искусственного интеллекта, созданного корейским стартапом DeepBrain AI, который предлагает профессиональную студийную запись и запись с использованием зелёного экрана (а также относительно недорогие способы самостоятельной записи) для создания реалистичных изображений умерших.
Это часть растущего рынка продуктов на основе искусственного интеллекта, которые обещают пользователям опыт, максимально приближенный к невозможному: общение и даже «воссоединение» с умершими. Некоторые из этих продуктов, например, HereAfter AI и StoryFile, которые также позиционируют свои услуги как имеющие историческую ценность, могут быть запрограммированы с использованием воспоминаний и голоса человека для создания реалистичных голограмм или чат-ботов, с которыми могут общаться члены семьи или другие люди.
Желание соединить жизнь и смерть присуще человеку. На протяжении тысячелетий религия и мистицизм предлагали пути для этого, размывая границы логики в пользу веры в вечную жизнь. Но у технологий есть своя, относительно недавняя, история попыток связать живых и мёртвых.
Чуть более ста лет назад Томас Эдисон объявил, что пытается изобрести «аппарат», который позволит «людям, покинувшим этот мир, общаться с нами». Эдисон, известный своим вкладом в развитие телеграфа, лампы накаливания и кинематографа, сказал в интервью The American Magazine, что это устройство будет работать не с помощью «оккультных» или «странных средств», а с помощью «научных методов».
По мере развития науки и технологий менялись и способы, с помощью которых люди пытаются узнать о жизни по ту сторону от смерти. Если в XIX и начале XX веков наблюдался расцвет спиритизма и псевдонаучных попыток общения с мёртвыми — с помощью спиритических сеансов, наблюдений за призраками и теоретического «духовного телефона» Эдисона, — то с изобретением этих аватаров с искусственным интеллектом мы вступаем в новую эру техно-спиритизма.
Машины уже во многом определяют нашу жизнь и диктуют многие наши решения. Алгоритмы показывают нам новости и музыку. Таргетированная реклама предсказывает наши желания. Приложения для отслеживания сна и смарт-часы превращают нашу физическую активность в игру. Но до недавнего времени горе и смерть оставались одними из немногих аспектов современной жизни, которые не были полностью поглощены постоянным стремлением общества к оптимизации, эффективности и производительности.
Однако по мере развития так называемой индустрии «смертельных технологий» и повсеместного распространения искусственного интеллекта горе, возможно, не будет долго оставаться в стороне.
Искусственный интеллект, используемый для психологического благополучия, уже стал относительно распространённым явлением. Как правило, они представлены в виде чат-ботов для психического здоровья или «компаньонов», таких как Replika, которых некоторые люди используют для создания аватаров, на которых они полагаются в плане эмоциональной поддержки. Однако в этой новейшей волне технологий особое внимание уделяется горю и утрате.
Многие компании, производящие аватары и чат-боты на основе искусственного интеллекта, используют язык оптимизации, предполагая, что их инструменты могут помочь людям «пережить горе» или иным образом лучше справиться с утратой, предоставляя возможность для посмертных бесед и завершения отношений. Такие утверждения подкрепляют ошибочное, но распространенное представление о том, что горе протекает линейно или в виде отдельных стадий, через которые человек может предсказуемо и безошибочно прогрессировать.
На веб-сайте Re;memory на видном месте размещена цитата, которую они приписывают Конфуцию: “Если вы не скорбите о значительной потере, что еще может вызвать вашу печаль?” По-видимому, подразумевается, что только вернув умершего любимого человека с помощью этой технологии, человек сможет по-настоящему горевать.
Потенциальные риски, связанные с инструментами искусственного интеллекта для работы с горем, значительны, не в последнюю очередь потому, что компании, производящие их, ориентированы на прибыль и заинтересованы в использовании желаний и заблуждений, которые могут быть вредны для их пользователей. Недавнее исследование, проведённое в Кембриджском университете, например, оценило этическую сторону «индустрии цифровой загробной жизни» и предположило, что эти компании вскоре могут осознать, что можно заработать ещё больше денег, если требовать от людей платить за подписку или смотреть рекламу, чтобы продолжать общаться с аватарами своих умерших близких, особенно после того, как они привыкнут к возможности общаться. Они также могут предлагать мёртвым ботам спонсируемые предложения, например, заказывать любимое блюдо умершего близкого через определённую службу доставки.
Другой возможный антиутопический сценарий, который представили себе исследователи из Кембриджа, заключается в том, что компания не сможет (или откажется) деактивировать своих «мёртвых ботов», что может привести к тому, что выжившие будут получать «незапрашиваемые уведомления, напоминания и обновления» и у них возникнет ощущение, что их «преследуют мёртвые».
Такое смешение реальности, фантазии и бизнеса вредит процессу скорби. Если викторианский спиритический сеанс создавал временную иллюзию потустороннего общения, то современная загробная жизнь, управляемая искусственным интеллектом, предлагает нечто ещё более коварное: постоянное интерактивное общение с умершими, которое предотвращает или откладывает подлинное осознание утраты.
В определённых контекстах чат-боты и аватары могут быть полезными инструментами для переживания смерти — особенно если их рассматривать как пространство для размышлений, как дневники. Но в нашей культуре, ориентированной на эффективность, которая поощряет нас обходить стороной неприятные, болезненные и беспорядочные аспекты жизни только потому, что мы думаем, что можем это сделать, здоровое использование этих инструментов возможно только при условии четкого понимания того, что боты или голограммы в корне нереальны. Сверхъестественное правдоподобие многих из этих аватаров усложняет ситуацию и повышает вероятность того, что их конечным результатом будет не помощь людям в преодолении горя, а скорее предоставление им возможности избежать его.
Чем больше мы используем эти инструменты для избегания, тем больше они могут причинить вреда, отключая нас от нашей собственной боли и от коллективного траура, к которому должно стремиться наше общество. И если мы когда-нибудь начнём воспринимать использование этих инструментов как необходимую часть процесса скорби, мы, попросту говоря, облажаемся.
Пока неясно, насколько популярными станут эти инструменты искусственного интеллекта для переживания горя, но, учитывая огромное количество компаний, которые конкурируют за их создание и продвижение, в основном в США, Китае и Южной Корее, можно с уверенностью предположить, что они станут важной частью нашего общего будущего.
Что бы это значило, если бы мы перестали бороться с самыми тяжёлыми чувствами, связанными с утратой? Что бы это значило, если бы мы осознали, что, хотя эффективность и оптимизация могут быть полезны на рынке, им нет места в делах сердечных?
По мере того, как мы вступаем в новую эру техно спиритизма, вопрос будет заключаться не в том, когда культура оптимизации придёт на смену горю, а в том, как мы будем справляться с ним, когда это неизбежно произойдёт.
От телефона-призрака до мёртвого бота — попытки технологически связаться с умершими были и будут всегда. Самое тревожное то, что возможности искусственного интеллекта, которые есть у нас сегодня, — это лишь верхушка огромного айсберга. В ближайшем будущем появятся всё более реалистичные и соблазнительные способы игнорировать или полностью создавать собственные реальности, ещё больше изолируя нас от нашего горя.
Как отдельные личности, мы, возможно, не сможем контролировать развитие технологий. Но мы можем контролировать то, как мы сталкиваемся с неприятным и болезненным, принимая эти чувства, даже самые сильные.