Как известно, гуманизм представляет собой нравственный принцип в отношениях между людьми и в деятельности общественных институтов, в основе которого лежит забота о человеке, стремление к улучшению его жизни, обеспечение удовлетворения его потребностей и развития талантов.
Создание искусственного интеллекта и роботов, подобных людям (андроидов или репликантов в интерпретации Филипа Дика) на первый взгляд не противоречит постулатам и ценностям гуманизма и отчасти выступает идейной основой трансгуманизма наряду с достижением неограниченного долголетия (бессмертия), суперинтеллекта и максимальных жизненных благ.
Основной принцип гуманизма – запрет использования человеком человека в качестве средства.
Пока уровень развития робототехники позволяет сохранять идентичность человека, как человека и андроида, как андроида, острых этических противоречий не возникает.
Но если предположить, что репликанты будут практически неотличимы от людей (например, как фильме «Бегущий по лезвию» и ему подобным), то гуманно ли человеку использовать человекоподобный механизм при условии, что последний проявляет человечность?
Стоит ли роботов «учить» проявлять эмоции, развивать способность к эмпатии (сопереживанию) и наделять их человеческими воспоминаниями, если потенциально это может привести к борьбе за их права некоторой частью излишне активного электората?
В романе Филипа Дика «Мечтают ли андроиды об электроовцах?» и фильмах «Бегущий по лезвию» и «Бегущий по лезвию 2049», снятых по её мотивам, для распознавания репликантов используется тест Войта-Кампфа. В своей сути – это тест на эмпатию. Идея состоит в том, что задавая вопросы тестируемому андроиду (или выявляемому, как в первом фильме 1982 года), следует убедиться что он не проявляет человечности и сочувствия к животным. На более высоком уровне, его не должен интересовать вопрос смысла жизни.
Если эволюция искусственного интеллекта станет возможной и андроиды обзаведутся развитой, как у человека, психикой, то внешние отличия от людей не будут иметь первостепенного значения.
Рефлексия на тему непричинения морального вреда и негуманность использования «живых» существ в своих целях, развернёт вектор технологий в сторону того, что создатель (человек) добровольно окажется в плену у потенциально более развитого эмоционального искусственного интеллекта.
Трансгуманизм с его игрой в бога, недооценивает антихрупкость органических систем и переоценивает потенциальный результат реализации своих идеалов.
Хрупкость искусственных систем, обусловленная их сложностью, проявит себя в виде негативных чёрных лебедей (редких, труднопрогнозируемых событий, имеющих значительные последствия).
Будущее будет не таким, каким мы его представляем.
Утешать плачущего репликанта, а тем более успокаивать разгневанного, вовсе не обязательно.
Статьи по теме: Что такое антихрупкость?; Лики трансгуманизма.