Вы слышали когда-нибудь про чат-боты с умершими людьми? Это относительно новая сфера использования искусственного интеллекта (ИИ). Наткнулись в цифровом журнале Aeon на эссе, авторы которого рассуждают, насколько этично и безопасно создавать таких ботов.
Кто и зачем создает чат-боты с умершими? Журнал описывает несколько примеров:
• В 2018 году появился Fredbot — бот, разговаривающий фразами пианиста и дирижера Фредрика Курцвейла. Он умер еще в 1970 году. Fredbot создал сын Курцвейла Рэй вместе со свой дочерью Эми (она — одна из авторов эссе в Aeon). Они оцифровали все официальные документы отца и деда, тексты его лекций, заметки, газетные вырезки о нем, письма, личные дневники. Соответственно, бот мог общаться фразами умершего пианиста, взятыми из этих материалов.
• В 2016 году Евгения Куйда создала чат-бот Replica, чтобы «поддерживать связь» со своей погибшей в ДТП подругой. Сначала бот общался фразами из загруженных в него текстовых сообщений, но затем стал генеративным.
• В 2020 году певица и художница Лори Андерсон использовала заметки и песни своего покойного мужа, сооснователя группы Velvet Underground Лу Рида, чтобы создать чат-бот с генеративным ИИ, с которым она общалась как с творческим партнером.
По мере совершенствования ИИ чат-боты с умершими людьми становятся все более точными. Скоро можно будет заставить их говорить голосом умершего или создавать дипфейки с его изображением. Но остается вопрос корректности и безопасности таких технологий, пишет Aeon.
С одной стороны, подобные чат-боты могут быть полезным инструментом, помогающим проживать потерю, с другой — возникают вопросы, насколько корректно использовать таким образом личные записи покойного без его согласия, не оскорбляет ли это его память и не нарушат ли фразы, сгенерированные чат-ботом, историческую достоверность.
С одной стороны, люди с давних времен стремились к общению с умершими предками, в каждой культуре есть свои ритуалы для этого («День мертвых» в Мексике, «Книга мертвых» у древних египтян, «Месяц призраков» в азиатских культурах). С другой — на этом стремлении кто-то может решить нажиться. Сейчас люди готовы платить большие деньги «медиумам» за связь с близкими, а в будущем на смену им могут прийти люди, создающие чат-боты с их умершими родственниками.
С одной стороны, чат-бот может дать возможность «договорить» с умершим человеком и отпустить его, с другой — кто-то может слишком увлечься этим общением (особенно в эмоционально нестабильном состоянии после пережитой утраты) и перестать разделять уже покойного человека и чат-бот, который говорит его словами.
Но есть еще кое-что, пишут авторы Aeon: можно подойти к созданию таких чат-ботов более творчески. Например, они могут быть способом сохранения памяти о человеке, частью музея в честь известной личности. Они могут служить утешением людям, пережившим утрату, дать им возможность снова услышать близких, но при этом периодически напоминать о том, что это всего лишь его цифровая копия, ИИ, чтобы избежать чрезмерной зависимости. Такие чат-боты могут быть хранителем семейных историй и даже мудрости.
Авторы эссе приходят к выводу, что подобные чат-боты могут быть как очень опасны, так и полезны. И по мере распространения такого применения ИИ может возникнуть необходимость в регулировании данной сферы его использования.
А как вы относитесь к идее создания чат-ботов с умершими близкими или с известными людьми?
🔥 — топ
👻 — это странно
🙈 — я против
@forbes_young