Практически каждый из нас терял близких людей. Чувства, возникающие из-за смерти кого-то родного, иногда кажутся невыносимыми. И тогда многие отдали бы во что бы то ни стало, чтобы хоть на чуть-чуть вернуть умершего человека, послушать его советы и поделиться своими чувствами. Особенно если смерть наступает коварно и неожиданно, не позволяя проститься или сказать важные вещи. Но, к сожалению, возвратиться из мертвых невозможно. По крайней мере, не в привычном понимании.
Но что если воскресить человека виртуально? Мы не сможем ее коснуться и почувствовать, но могли бы поговорить, будто во время простой переписки. Хотя это звучит фантастически, на самом деле подобную возможность уже сейчас предлагают сразу несколько стартапов. Они используют искусственный интеллект, благодаря анализу данных об умершем, создает его виртуальную копию, с которой можно говорить в чате. Их можно назвать цифровыми, генеративными или ИИ-призраками.
Но чем на самом деле может быть обосновано приведение в мир ИИ-призраков? Могут ли они помочь людям? И почему специалисты считают, что человечество пока к ним не готово? Об этом рассказываем с точки зрения психотерапевта Дублинского университета Найджела Маллигана (Nigel Mulligan) и специалистов по ИИ Джеда Брубейкера (Jed R. Brubaker) из Университета Колорадо и Мередит Моррис (Meredith Morris) из Google DeepMind.
Как создать собственное цифровое привидение
В последние годы значительного усовершенствования достигли такие крупные языковые модели на основе искусственного интеллекта, как ChatGPT. Они достигли уровня, когда их часто невозможно отличить по разговору от человека: они имеют память, планируют и даже шутят, правда, с переменным успехом. Все это им удалось благодаря обучению на огромных массивах данных - книгах, статьях, литературных текстах, диалогах из фильмов и сообщениях живых людей во время типичных разговоров.
Колоссальное количество информации оставляет после себя и человек. Это тысячи сообщений по перепискам с друзьями, любимыми, коллегами, в которых человек проявляет свой характер и манеру общения с разными людьми. Это сотни публикаций в социальных сетях, которыми человек выражает свои взгляды на события в мире и на какие-то фундаментальные вещи. Также это голосовые и видео сообщения. Все эти данные могут использоваться и для обучения нейросети, которая на основе их анализа определит характерные черты человека и сможет имитировать их при разговоре. То есть благодаря анализу текстов, нейросеть сможет генерировать ответы человека.
Один из имеющихся стартапов, Re;memory, предлагает людям создать собственную цифровую копию, которая останется после смерти, тренируя ИИ на семичасовой видеозаписи интервью с клиентом. Другой, HereAfter, собирает данные через приложение, которое опрашивает человека по ключевым аспектам жизни, чтобы после его смерти близкие могли общаться с обученным на ответах чатом. Он будет воспоминания умершего и сможет делиться фотографиями, касающимися особых моментов его жизни и жизни родных.
Впрочем, есть ряд стартапов, использующих данные уже умерших людей, таким образом, предлагая их своего рода воскресить. Например, Character.AI позволяет пообщаться с цифровой версией Винсента Ван Гога или Уильяма Шекспира. Project December предлагает «симулировать» любого умершего на основе загрузки информации о нем и создания соответствующего чата.
Подобные модели даже могут стать не просто репрезентацией человека на определенном этапе его жизни, а учась на новой информации, эволюционировать. К примеру, «стареть», соответственно меняя свои «взгляды» и манеру общения.
Светлые возможности благодаря ИИ-призракам
Цифровые призраки могут помочь людям еще при жизни легче принять свою смерть. Мнение, что они будут продолжать существовать в мире даже после смерти, может давать облегчение. В частности, относительно того, что о них будут помнить такими, какими они были, и что они смогут передать свои знания даже через многие поколения. Также умерший мог бы благодаря своей ИИ копии помочь после смерти трактовать его последнюю волю.
Но большую пользу ИИ-призраки могут принести скорбящим. Иногда бывает особенно трудно смириться с потерей близкого человека, и тогда цифровые призраки могут стать утешением, помогая восстановить связь с умершим. Иногда психологи рекомендуют обращаться к умершим устно или письменно, рассказывая им о своих чувствах и мыслях, однако это всегда одностороннее общение. Вместо этого цифровые призраки могут дать обратную связь и таким образом иметь более сильный эффект.
Скорбящие также могли бы воспользоваться ИИ-призраками, чтобы попрощаться или спросить важные вещи, которые не успели выразить при жизни умершего, получить ценные советы. Сделав это человеку, может стать легче отпустить от себя умершего. Также ИИ-призраки могут создать впечатление присутствия уже умершего человека при важных событиях. К примеру, сказать от имени умершего поздравления на свадьбе внуков.
Вмешательство цифровых привидений в ум живых
Но даже самое подробное сходство цифровых привидений к потерянному близкому человеку может быть не таким положительным, как кажется. Призраки могут быть вредны для психического здоровья людей, вмешиваясь в нормальный процесс скорби. Она требует времени и иногда прохождения этапов примирения с горем, которые могут длиться много лет. Тогда переживающие скорбь могут часто думать об умершем, постоянно вспоминать воспоминания с ними, и в таком случае ИИ-призраки могут способствовать возникновению зависимости и избеганию контактов с живыми людьми.
Человек, ментальное здоровье которого нарушилось сильным горем, то и дело возвращаясь к общению с умершим через чатбот, может даже потерять связь с реальностью. Ей может показаться, что она действительно общается с умершим человеком. Так что цифровые призраки могут еще больше травмировать переживающих осложненное горе и усугубить связанные с этим проблемы, такие как галлюцинации.
После сильной привязки к цифровой копии умершего скорбящие могут столкнуться с необходимостью повторно пережить потерю. На это может быть множество причин: от закрытия проекта до потери возможности платить за поддержку чата, технические поломки или хакерские атаки, критически повреждающие данные пользователей. Это может нанести дополнительный вред ментальному здоровью скорбящих.
В конце концов, не следует забывать, что языковые ИИ часто склонны и сами «галлюцинировать» — генерировать ответы наугад, которые кажутся очень правдоподобными. Если это произойдет с ИИ-призраком, то он может давать ответы, которые будут ошибочно характеризовать умершего человека, угрожая его репутации. Например, высказывать от ее имени совершенно не свойственные ему взгляды или давать советы, которые при жизни умерший человек никогда бы не сказал, в частности вредны.
В конце концов, люди просто не хотят делиться отдельными мыслями с другими. Было бы очень больно, если бы сыну или дочери создали ИИ-призрак умершего отца, лишь бы они услышали, что отец их не любил или они не были его любимцами. Или если бы призрак предложил пользователю присоединиться к ним в смерти или убить кого-то или нанести кому-то вред.
Угрозы цифровых привидений для целого общества
Исследователи обеспокоены тем, что проблема с цифровыми привидениями может даже выйти за пределы нанесения индивидуального вреда и стать угрозой обществу. К примеру, они могут породить новый тип преступности. Она может быть в виде похищения призрака, и в таком случае злоумышленники могут добраться до конфиденциальной информации, например финансовых данных, паролей, расположения ценных вещей, или информации, которой можно шантажировать близких умершего.
Другие преступники могут попытаться сломать систему призраков и требовать деньги от людей за возможность продолжить пользоваться сервисом, или могут выдавать себя за самого призрака, получая от близких нужную информацию из-за обмана.
Ученые даже задумались о том, как ИИ-призраки могут повлиять на современные религии. Ритуалы и вера в загробную жизнь являются важной частью большинства основных религий, поэтому связанный со смертью ИИ в случае широкого распространения способен изменить религиозные практики. В некоторых случаях это может произойти как обновление отдельных ритуалов, например погребальных, чтобы внедрить в них новую технологию. Но также это может привести к появлению новых религиозных течений, в которых люди будут обожать цифровые призраки или воспринимать их как потусторонних существ, которым будут стремиться поклоняться. Таким образом мировым религиям может потребоваться обновить свои рекомендации и догмы, чтобы вписать технологию в рамки верования.
Как сделать цифровые призраки безопасными
Хотя технология ИИ-призраков еще не получила массового распространения, ученые считают, что уже сейчас стоит задуматься о ее потенциальных последствиях и найти решение будущих проблем.
Чтобы минимизировать вред для ментального здоровья скорбящего, но сохранить пользу от общения с виртуальными образами умерших, нужно будет тщательно продумать функционирование таких систем. В частности, его интерфейс должен четко указывать, что пользователь общается с репрезентацией человека, а не с ним самим. Также важным может быть создание своего рода рубильника для отдельных ситуаций, чтобы у пользователей была возможность временно или навсегда отключить программу. Например, если доступ к ней попадет в руки преступников или она нанесет вред пользователям.
Также разработчикам вместе с юристами следует урегулировать вопросы использования данных умерших людей и способы минимизации рисков злоупотребления ими. Например, определить, кто имеет право создавать цифровые призраки, на каких основаниях и с какими данными.
То есть общественный диалог по поводу целесообразности цифровых привидений должен пройти с участием экспертов разных сфер общества: от ИИ-исследователей, специалистов по взаимодействию человека и компьютера до психологов, представителей религий и законодателей.
Источник: Университет Дублина Nigel Mulligan / Университета Колорадо
#Технологии #Психология #ИскусственныйИнтеллект #ИИ #Смерть #Горе #Скорбящий #ТяжелаяУтрата #Чат-боты
