Благодаря приложениям на основе искусственного интеллекта теперь можно разговаривать или переписываться с симуляцией умершего. Отличная помощь в процессе скорби или коммерческая ловушка? По словам исследователя Натали Смуха (KU Leuven), эта технология поднимает множество этических, социальных и юридических проблем
Возможность снова поговорить с умершим человеком – тайное желание многих. В прошлом утешение иногда искали через медиума или другие паранормальные действия, но в наши дни вы также можете обратиться к «технологии горя». Подобные технологии, такие как Seance AI или Project October, направлены на общение с имитацей умершего человека. По словам Натали Смуха, исследователя права, этики и искусственного интеллекта в Левенском университете, существуют разные типы приложений. «Большинство приложений работают на основе «большой языковой модели». Это большая модель, обученная на очень больших объемах данных и способная взаимодействовать с нами», — объясняет она в программе «Час истины» на голландском Радио 1.
Эта общая языковая модель затем дополняется разговорами в чате, которые вел умерший человек и которым необходимо подражать. «Вставляя в эту модель сообщения от умершего человека, программа дополнительно настраивается и обучается более точной модели языкового поведения. На основании этого чат-бот пытается взаимодействовать с вами так же, как это делал бы умерший».
Существуют также приложения, выходящие за рамки «обычных» чатов. Даже аудио и видео играют здесь свою роль. В эти системы необходимо передать изображения или аудиофрагменты умершего, создавая симуляцию жизни умершего человека. Вопрос, конечно, в том, насколько успешна эта имитация. «Это, конечно, не то же самое, что разговаривать с умершим человеком. Чат-бот обучается и на многих других данных, а не только на данных, которые вы в него вкладываете», — подчеркивает Смуха. А эффективность – это только одна сторона медали. Как и другие приложения искусственного интеллекта, технология горя вызывает множество опасений и проблем.
Не жив, не мертв...
«Прежде всего, это коммерческий вопрос», — говорит Смуха. «У компаний, которые предлагают подобные сервисы, есть бизнес-модель. Либо вы платите подписку ежемесячно или еженедельно, либо она бесплатна, но затем они показывают вам рекламу». В любом случае компания получает прибыль от приложения.
Nathalie Smuha У нас еще нет устойчивости к эмоциональной связи, которую мы рискуем создать с помощью технологии горя.
По словам Смухи, этот коммерческий аспект сразу же становится одним из самых больших вопросительных знаков, которые можно поставить перед этой технологией. «Человек, который хочет поддерживать контакт с умершим, особенно уязвим. Разработчик приложения может воспользоваться этой уязвимостью, например, попросив больше денег, показав больше рекламы или купив больше данных».
Эмоциональная связь
«Кроме того, мы не привыкли взаимодействовать с такими чат-ботами. Технология может показаться реалистичной, но ИИ и эти чат-боты для нас новы. У нас пока нет реальной устойчивости к эмоциональной связи, которая у нас есть. Это делает нас особенно уязвимыми». Эмоциональное отношение к технологиям может показаться романтической идеей, позаимствованной из голливудских фильмов. В известном фильме «Она» главный герой безумно влюбляется в своего ИИ-помощника. Фантастика, но, по словам Смухи, это сейчас не так далеко от нашего дивана.
«Конечно, существует множество опасностей использования такой технологии, когда люди могут стать эмоционально зависимыми. Разработчики создали ее для установления эмоциональной связи, независимо от того, выдает ли этот чат-бот себя за умершего человека или имеет дружеские или романтические намерения». Тот факт, что разработчики держат (коммерческие) бразды правления этой эмоциональной связью, влечет за собой опасность.
Повязка на рану?
Но не может ли такой чат-бот помочь многим людям, облегчив процесс скорби? По словам Смухи, однозначного ответа на этот вопрос пока нет. «На данный момент недостаточно исследований как краткосрочных, так и долгосрочных последствий такой технологии», — говорит она. «Нет уверенности в том, что существует хорошая альтернатива человеческой поддержке, особенно в моменты горя».
«Возможно, это положительно скажется на процессе доработки», — говорит Смуха. Поэтому она считает, что дополнительные исследования и процесс информирования имеют решающее значение, прежде чем такая технология сможет быть полностью принята.
Nathalie Smuha Существуют ли правила, которые мы хотим принять для защиты частной жизни умерших? Нам, как обществу, нужно подумать об этом
До тех пор рекомендуется соблюдать осторожность. «Одно дело использовать такое приложение после консультации с терапевтом, а другое — сделать это самостоятельно. Именно тогда вы наиболее уязвимы, когда не осознаете того, что это всего лишь симуляция и что намерение состоит в том, чтобы эффективно пережить горе, а не цепляться за него».
Конфиденциальность после смерти
Наконец, по словам Смухи, есть и юридические вопросы. «Законодательство о конфиденциальности на европейском уровне применяется только к живым людям». Стало быть, после смерти вы больше не защищены. «Но то, что вы можете законно что-то сделать с данными, например, вашей умершей бабушки, не означает, что это также допустимо с этической или моральной точки зрения».
«Я думаю, что мы, как общество, должны подумать об этом. Существуют ли правила, которые мы хотим принять, чтобы надежно защитить умерших людей? Сейчас мы оставляем после себя гораздо больше цифровых данных, чем когда-либо прежде. Что с ними должно случиться? Достаточно пищи для размышлений, прежде чем самостоятельно приступить к работе с такой технологией.
