Сегодняшний текст – он не про музыку, - но, как мне кажется, тема серьёзная и заслуживает внимания... В недавней публикации в британской газете The Guardian автор поднял вопросы, которые ещё вчера были характерны только для жанра фантастики: специалисты по этике искусственного интеллекта (ИИ) утверждают, что «цифровое воссоздание умерших людей находится на пороге реальности и срочно нуждается в регулировании», предупреждая, что «мертвые боты могут нанести психологический вред своим создателям и пользователям - и даже преследовать их».
Понятно, о чём идёт речь: уже сегодня технически возможно воссоздавать «диалоги с умершими родственниками». Соответственно, это позволяет в том или ином виде «вернуть к жизни» людей умерших в виде чат-бота (или "дед-бота"). Специалисты подчёркивают, что прогресс в этом направлении идёт семимильными шагами, так что подобная практика «создаст целый комплекс этических и юридических проблем в скором времени».
В статье приведены примеры коммерческого использования подобных технологий. «Уже в ближайшее время подобные приложения могут начать продавать родителям с неизлечимыми заболеваниями, которые хотят оставить после себя что-то, с чем их ребенок мог бы взаимодействовать», - говорится в статье. – «Также интерес к подобным ИИ-продуктам может возникнуть у здоровых людей, которые хотят систематизировать всю свою жизнь и создать после себя интерактивное наследие».
При этом ответственные создатели подобных технологий понимают, что в каждом конкретном случае возможно «недобросовестное использование передовых технических достижений». «Бездумная деловая практика может нанести психологический ущерб окружающим и в корне нарушить права умершего», - предупреждают они.
«Стремительный прогресс в области генеративного ИИ означает, что практически любой человек, имеющий доступ к интернету и некоторые базовые знания, сможет в ближайшее время “оживить” умершего близкого человека», - заявляет доктор Катажина Новачик-Басиньска (Katarzyna Nowaczyk-Basińska), являющаяся соавтором соответствующего исследования в Кембриджском центре будущего интеллекта. – «Эта область искусственного интеллекта представляет собой этическое минное поле. Важно уделять приоритетное внимание достоинству умершего и следить за тем, чтобы на это не покушались, например, те компании, которые имеют финансовые мотивы для так называемых цифровых служб загробной жизни».
Примером такой деятельности могут стать компании, которые будут пытаться монетизировать свои устаревшие цифровые сервисы с помощью рекламы. Пользователи такого сервиса могут быть шокированы, когда их любимый человек, воссозданный в цифровом виде, начнёт предлагать им заказать, например, еду навынос. «Уже сейчас необходима жёсткая регламентация в использовании образов ушедших из жизни людей», - заключает газета.
Гораздо худшие результаты возможны, когда пользователями таких сервисов могут стать дети. Возможна ситуация, когда родственники захотят помочь ребёнку справиться с потерей матери или отца: сегодня не существует достоверного понимания, как такой подход может повлиять на психологическое состояние ребёнка. «Вероятно, что такая практика может нанести серьёзный ущерб психике ребёнка, нарушив нормальный процесс оплакивания утраты», - резюмирует автор. – «Никакая служба воссоздания не может доказать сегодня, что разрешение детям взаимодействовать с “дед-ботами” их близких принесёт пользу ребенку или, по крайней мере, не навредит этой уязвимой группе детей».
Чтобы сохранить достоинство умерших, а также психологическое благополучие живых, исследователи предлагают набор передовых методов, применение которых потребует жёсткого регулирования.
Например, необходимо создание служб, которые будут иметь процедуры для деликатного “вывода из функционирования” определённых “дед-ботов”. Такие службы будут ограничивать интерактивные возможности тех или иных “дед-ботов” – например, тех, которые предназначены только для взрослых. При этом все ограничения должны быть предельно прозрачными и понятными для пользователей.
Немного истории: идея использования системы искусственного интеллекта в стиле ChatGPT «для воссоздания умершего любимого человека» не является научной фантастикой. В 2021 году Джошуа Барбо (Joshua Barbeau) попал в заголовки газет после того, как использовал GPT-3 для создания чат-бота, который говорил голосом своей умершей подруги, а за шесть лет до этого разработчик Евгения Куйда (Eugenia Kuyda) преобразовала текстовые сообщения своей близкой подруги в чат-бот, что в конечном итоге привело к созданию популярного приложения Replika.
Технология распространяется и за пределы чат-ботов. В 2021 году генеалогический сайт MyHeritage представил функцию Deep Nostalgia, которая позволяет пользователям создавать анимированные видеоролики с участием предков на основе фотографий. После того, как эта функция стала популярной, компания признала, что некоторые пользователи «находят её жутковатой». «Да, результаты могут быть противоречивыми, но, согласитесь, трудно оставаться равнодушным к этой технологии», - заявили тогда в MyHeritage. – «Эта функция предназначена для ностальгического использования, то есть для того, чтобы “вернуть к жизни” ваших любимых предков. Но мы против создания “фальшивых” видеороликов с живыми людьми».
Что касается «фальшивых видеороликов с живыми людьми», то мошенники уже вовсю пользуются подобными технологиями, принуждая родственников переводить деньги на их счета. Наверное, именно поэтому увеличилось число «левых» звонков именно по What’sApp Video – так что будьте бдительны…
