Новое исследование ученых из Еврейского университета в Иерусалиме и Лейпцигского университета предлагает один из наиболее полных взглядов на эту непростую в этическом смысле область применения современных технологий и поднимает острые вопросы о согласии, эксплуатации и власти в мире, где мертвых можно буквально «оживить», пусть и только в цифровом смысле.
Авторы работы Том Дивон и Кристиан Пентцольд проанализировали более 50 реальных случаев из США, Европы, Ближнего Востока и Восточной Азии, в которых технологии ИИ использовались для воссоздания голосов, лиц и личностей умерших людей.
Ученые выделили три основных способа цифрового «возвращения» умерших. Первый — зрелищность: цифровое воссоздание знаменитостей для развлечения, когда зрители могут посмотреть «новые» выступления, например, Уитни Хьюстон или Фредди Меркьюри. Второй — политизация: реанимация жертв насилия или несправедливости для политических или мемориальных целей, когда воссозданные с помощью ИИ персоны умерших свидетельствуют или рассказывают свои истории посмертно. Третий и наиболее быстрорастущий способ — повседневность: обычные люди используют чат-ботов, чтобы «разговаривать» с умершими родителями, партнерами или детьми, поддерживая отношения через ежедневное цифровое взаимодействие.
Во всех трех случаях мертвых не просто вспоминают — их, можно сказать, заставляют работать. Ученые даже ввели понятие «спектрального труда»: системы ИИ обучаются на цифровых следах умерших — их фотографиях, видео, голосовых записях, публикациях в социальных сетях. Эти данные извлекаются, переупаковываются и монетизируются без согласия людей, которые их оставили.
«Мертвые, — пишут ученые, — вынуждены служить желаниям живых: эмоциональным, политическим и коммерческим». И это порождает сложные вопросы: кому принадлежит голос после смерти? Можно ли эксплуатировать цифровой образ? И, наконец, кто решает, как, когда и зачем «возвращать» в наш мир умерших?
Исследование помещает эти практики в контекст того, что социологи называют «постмортальным обществом» — обществом, которое не отрицает смерть, но все активнее стремится преодолеть ее технологически. Бессмертие теперь обещают не только религии, но и данные, алгоритмы и платформы, предлагающие «цифровую загробную жизнь».
Однако авторы подчеркивают: ИИ не побеждает смерть. Вместо этого он удерживает людей в тревожном промежуточном состоянии — ни полностью живых, ни полностью ушедших. По мере развития генеративного ИИ общество должно осмыслить этические и правовые последствия таких шагов, причем делать это нужно уже сейчас, пока цифровое воскрешение не стало нормой без какого-либо регулирования.
Ранее ученые выяснили, что лесть чат-ботов вредит человеку.