Много говорится (в том числе в этом номере) про опасности, которые может нести искусственный интеллект человечеству. Опасность не сразу распознаешь. Вот, например, благодаря «цифровой имитации» каждый человек может стать бессмертным. Но с этим бессмертием не все так просто, как в мечтах бывает. В своей колонке первый заместитель председателя правления Сбербанка Александр Ведяхин объясняет, почему без этики никакое бессмертие не получится, обречено.
Технологии искусственного интеллекта (ИИ) развиваются очень стремительно, и этот прогресс порождает такие вопросы, с которыми человечество до сих пор не сталкивалось. Один из таких острых вопросов — этичность «цифрового бессмертия».
Вопрос о том, когда может быть достигнуто «цифровое бессмертие», пока остается открытым. Известный футуролог Рэй Курцвейл высказал мнение, что люди смогут достичь его к 2030 году с помощью технологий ИИ и нанороботов. Но уже сейчас уровень развития технологий позволяет создать цифровую имитацию любого человека, почти неотличимую от оригинала: она копирует его внешность и голос, манеру общения и даже творческий стиль. Иными словами, появилась возможность сохранять идентичность любой личности даже после ее физической смерти. Получается, что мы уже можем говорить о бессмертии человека, пусть и в цифровом виде. Технологии кардинально меняют привычные представления о жизни, расширяют рамки нашего существования. Но готовы ли мы к такому расширению? Какие опасности нас подстерегают?
Насколько этично создавать цифровую имитацию живого человека? А умершего? Ведь мы уже не можем получить у него согласие на это. Это не гипотетические вопросы, сервисы создания цифровых имитаций умерших людей уже существуют. Например, жительница Южной Кореи смогла вновь увидеть умершую восьмилетнюю дочь по имени Найон с помощью технологий виртуальной реальности: разработчики создали цифровую копию девочки, с которой ее мать смогла пообщаться, надев VR-шлем и тактильные перчатки. Инженеры использовали реальные фото и видео покойной Найон, а также аудиозаписи ее голоса, чтобы воспроизвести их в виртуальной реальности. Насколько такие сервисы допустимы, сейчас дискутируют психологи, философы, биологи…
А представьте, что мы создали цифровые имитации гениев прошлого — Пушкина, Менделеева, Врубеля, и они начали создавать новые произведения или совершать открытия от имени своих реальных прообразов. Как к этому относиться? Признавать ли их аутентичность или воспринимать как некий элемент игры, как стилизацию? Вообще, какие цели создания имитаций допустимы?
Над решением всех этих вопросов напряженно работают и российские эксперты. Например, в рамках Комиссии по реализации Кодекса этики в сфере ИИ была создана рабочая группа по созданию «свода наилучших практик решения возникающих этических вопросов в жизненном цикле ИИ». Одно из направлений работы группы — создание рекомендаций на тему цифровых имитаций людей. Перечислю несколько пунктов, которые обсуждаются в рабочей группе.
Этично ли создавать цифровые имитации умерших или ныне живущих людей, основываясь на их цифровых или оцифрованных следах (например, фотографиях, текстах сообщений, видео-и аудиозаписях)?
Этично ли создавать цифровые имитации живых людей (политиков, родственников, друзей, коллег по работе и т. д.) для профессиональных или личных целей?
Этично ли создавать цифровые имитации умерших людей?
Этично ли создавать цифровые имитации людей (писателей, художников, композиторов и т. д.) с целью воспроизведения их творческого стиля?
Участники рабочей группы в основном сходятся во мнении, что создание цифровой имитации само по себе нейтрально, дискуссии возникают по поводу использования таких имитаций. Если их создание неизбежно, то эксперты как минимум рекомендуют маркировать их, напоминая пользователям о том, что транслируется цифровая имитация. При создании или использовании цифровой имитации человека, конечно, нужно соблюдать законодательно установленные нормы, а также принципы ответственного и недискриминационного использования технологий. Такие принципы подробно изложены в Кодексе этики в сфере ИИ, к которому уже присоединилось более 270 российских участников и более 20 иностранных. Таким образом, при разработке рекомендаций по цифровым имитациям удается учесть мнение представителей рынка ИИ из различных сфер деятельности и регионов. Такой подход позволяет рассмотреть сложные вопросы с разных сторон и найти оптимальное для всех участников рынка ИИ решение.
Технологии ИИ открывают перед нами новые горизонты, но при этом ставят новые задачи, в том числе морального характера. Этичность цифровых имитаций людей — одна из них.
Колонка опубликована в журнале "Русский пионер" №118. Все точки распространения в разделе "Журнальный киоск".