Эндрю (NDR-114), ВАЛЛ-И, Ава, Долорес и Рейчел — появление на киноэкранах этих и других роботических персонажей (даже уже названных вполне человеческими именами!) свидетельствует о том, что современные деятели культуры, а вместе с ними и специалисты в области компьютерных и роботических разработок, политики и философы проявляют особый интерес к не-человеческим формам бытования личности. Конечно, речь идет не о банальных машинных «протезах» или помощниках, помогающих людям собирать другие устройства и объекты повседневного пользования. Напротив, сюжеты таких фильмов как «Двухсотлетний человек», «ВАЛЛ-И», «Из Машины» и «Бегущий по лезвию» построены вокруг обсуждения роботической сущности, механически ограниченных субъектов (или пока еще объектов?) и возможности существования такого рода «предметов» как полноправных участников социальных, экономических и политический взаимодействий.
Казалось бы, все эти футурологические ожидания едва ли обернутся реальностью. По крайней мере, пока возможности синтезирования искусственного интеллекта настолько малы, что представляется невозможным имитировать мышиный — не говоря уже о человеческом — мозг. Значит, и представить себе машину, обладающую сознанием, так или иначе похожим на человеческое (а, значит, и требующим аналогичного обращения), довольно сложно. В то же время скорость, с которой разработчики современных самообучающихся сетей производят инновации, не может не поражать. В частности, нейросети уже способны определять сексуальную ориентацию человека по фотографии, находитьэкзопланеты, писать стихи, песни и выполнять другие действия, которые человек долгое время полагал нормативными для себя и ни для кого больше.
Получается, что роботы так или иначе начинают бороться за положение равных в человеческом обществе. С одной стороны, они уже практически обрели статус «помощников» (например, Зенбо), «питомцев» (как Айбо) и, таким образом, легитимировали свое пребывание в мире людей посредством демонстрации себя как утилитарного полезного «компаньона». С другой стороны, благодаря их наличию сформировалась новая норма реакции на умеренные «педоморфность», «антропоморфность» роботов — этакий прокачанный вариант «мимишности» и «новой искренности». Каждый, кто хоть раз видел испытания — заметим — военных роботов компании Boston Dynamics, испытывал вполне человеческие эмоции: сочувствовал, сопереживал железкам, над которыми в процессе тестов издевались инженеры. Более того, гиноид София, ставшая, пожалуй, самым известным человекоподобным роботом, не просто провоцирует нас на эмпатические реакции, но буквально ждет их. София дает интервью, шутит, получает гражданство, в общем, действует как среднестатистическая знаменитость. Наблюдая за ней, сложно не заметить: современные роботы как киберфизические сущности обретают социальные роли, требующие пересмотра их положения в обществе.
Право на киберфизическую сущность
Вообразим себе ситуацию, при которой персонажи из фильмов о роботах действительно станут частью общества, то есть окажутся полноправными, деятельностными субъектами в привычных и традиционно «человеческих» областях. Они не просто будут ходить по улицам или перемещаться по супермаркетам (такое происходит уже сегодня), но будут повсеместно производить вполне антропологические и автономно совершаемые действия: общаться, действовать согласно программной (или же синтезированной, сформированной по результатам самостоятельного обучения) воле, работать (в том числе и в экстремальных условиях).
Подобный сдвиг парадигм, подразумевающий своего рода вторжение не-человеческих сущностей в изначально человеческий мир потребует пересмотра многих современных норм, практик и оснований – политических, этических, философских. Ревизия правовых оснований человеко-машинной коммуникации уже началась, и один из примеров этого процесса — Резолюция Европарламента от 16 февраля 2017. Ее авторы попытались установить такие этические и правовые нормы совместного существования человека и высокотехнологичных роботов (грядущего), созданных с применением технологий искусственного интеллекта, которые бы не подавляли развитие инноваций. Авторы резолюции даже взяли на себя труд диверсифицировать киберфизические системы, отдельно выделяя следующие категории (и, видимо, предполагая разницу правовой регуляции их существования): автономные транспортные средства (автомобили и дроны), социальные и медицинские роботы, роботы-преподаватели и гражданские роботы. Хартия робототехники, также представленная в резолюции, еще больше усиливает беспрецедентный характер этой правовой регуляции, постулируя обновление основных этических принципов робототехники. Так, роботы, с которыми в скором времени мы можем оказаться соседями, будут априори «делать благо» (все — в интересах людей) и исповедовать принцип «не навреди». А за человеком будет закреплено право «самостоятельно» и добровольно принимать решения об условиях взаимодействия с машинами.
Итак, в 2017 году роботы планомерно становятся полноправной частью общества, за ними закрепляются определенные права, их деятельность регламентируется. Правда, кажется, чтобы заслужить статус «гражданина», им потребуется преодолеть столько же бюрократических процедур, сколько и человеку. При этом, обретая легитимный социальный статус, они автоматически оказываются претендующими на наличие «личности», пусть и не-человеческой природы.
Возможно ли убить киберфизического индивида?
Несколькими десятками лет ранее механические устройства — первые компьютеры, боты — не подлежали никакому правовому регулированию. Механизмы, пускай и «умные», представляли собой лишь некую собственность человека, точно лишенную прав и не нагруженных обязанностями. Их покупали, продавали, ломали, крали, и все это выглядело вполне само собой разумеющимся. Все эти устройства не обладали тем, что отличает акторов правового, этического и философского осмысления — у них не было личности, той самой субъектности.
Однако уже в 1964 году философ и логик Хилари Патнэм высказывается о том, что суждение о степени твердости и синтетичности «организмов» уже само по себе является дискриминацией. Точно так же стоит и рассматривать следующие сомнения: нужно ли наделять роботов правами только в случае их возможного психического изоморфизма по отношению к человеческим существам, или введение роботических существ в правовое поле должно стать нормой? Патнэм, задаваясь вопросом, считать ли роботов механизмами либо же искусственно созданной жизнью, приходит к нетривиальному выводу: невозможно оценивать киберфизические субъекты по человеческим лекалам «тела», «языка» и «сознания». Решение вопроса о правовом обеспечении и эссенциальных характеристиках машин заключается не в изучении этих сущностей, а в том, чтобы принять здравое решение о том, как мы относимся к роботам. Он уверен: киберфизические системы потенциально достаточно сознательны, чтобы различить направленные на них дискриминационные практики.
Если Патнэм постулирует наличие «сознания» у роботов, то высказывания его коллеги, исследователя нанороботов Роберта Фрайтас маркируют следующий этап рефлексии о киберфизических системах. В статье 1985 года «Legal rights of robots» Фрайтас употребляет словосочетание «software persons», таким образом ставя вопрос о бытовании программной, буквально софт-сущности. «Что считать жизнью программы — ее право на исполнение или же право на сохранность и хранение?», — вопрошает он. И продолжает: а если программе отказать в праве на исполнение, не будет ли это похоже на введение или насильственное содержание человека в коматозном состоянии? Иными словами, не нарушит ли в таком случае пользователь почти что конституционные права цифрового «существа» — по крайней мере то, что аналогично неотъемлемому праву каждого человека на жизнь. Таким образом, Фрайтас не просто закрепляет за киберфизической сущностью некоторое право на сознание, он полагает наличие у машин атрибутов, присущих только биологическим формам, населяющим планету. Он наделяет их «жизнью» и «личностью», при этом парадоксальным образом учитывая их «программный» статус.
Тепло человеческой кожи
Итак, роботические сущности обретают сознание и право на жизнь. Может, если не в правовом, то в социальном плане они в принципе приравнены к людям? В некоторых индустриях, в частности, в индустрии развлечений и рекреации, как это часто бывает у человечества, связанных с сексом, практически так дела и обстоят. Уже сегодня не только сценаристы культовых сериалов, футурологи и прочие утописты-мечтатели, но сексологи уверены: рано или поздно человечество придет к необходимости разнообразить сексуальную жизнь посредством взаимодействия со специально сконструированными и обученными машинами. Так, Дэвид Леви, исследователь культуры интимных отношений с роботами и автор скандальной книги «Love and Sex with Robots», уверен, что такое расширение сексуальной жизни довольно скоро станет нормой. Практикуем же мы уже сегодня виртуальный секс… И хотя на подобные заявления нередко реагируют весьма иронично, реальность заключается в том, что потенциальная возможность нормализации человеко-машинных отношений посредством такого рода активности уже происходит. Например, в конце 2017 года прошел уже третий международный конгресс, посвященный проблемам любовных и сексуальных отношения с роботами.
Так что оказывается, рынок секс-роботов уже достаточно хорошо развит, несмотря на пока еще невеликие возможности самой продукции: лишь недавно антропоморфные «программные личности» научились «испытывать оргазм». Футуролог Йен Пирсон, например, уверен, что к 2030 году та или иная форма виртуального секса станет такой же естественной практикой, как и просмотр порно, а к 2050 году человеко-машинный секс постепенно станет заменять человеческий. И, кстати, серьезным свидетельством в пользу успеха индустрии цифрового секса становится то внимание, с которым разного рода феминистские сообщества отнеслись к проблеме производства нового поколения «умных» секс-кукол. Их аргументы довольно знакомы: представленные в виде объектов, фемботы провоцируют у пользователей закрепление патриархальных, доминантных и основанных на насилии, а не партнерских интенциях норм сексуального обращения. И, в общем-то, понятно, что, выступая с таких позиций, феминистки, прежде всего, продолжают идти тернистым путем борьбы против объективации, абьюза. Однако в их рассуждения можно уловить новые нотки: размах дигитализации секс-индустрии позволяет предположить, что женщины по-прежнему воспринимаются в качестве собственности, потенциально проституирующего субъекта. Но, вспоминая об уже описанной борьбе активистов за права роботов, можно задаться вопросом: не станет ли беспрецедентное усложнение секс-кукол, наделение их интеллектом подспорьем в борьбе за права женщин? И, если да, не окажутся ли тогда машины важными соратниками других потенциально или реально угнетаемых, «других» — в данном случае женщин?
Рождение очередной инаковости
Признание наличия у роботов сознания, затем личности и права на жизнь, и, наконец, принятие их сексуальности? Возможно ли все это на самом деле и, если да, то как к этому подготовиться? Как подготовиться к наступающей инаковости, сущность которой мы едва ли можем понять? Человеческая природа и образ мысли примерно понятен: известно, как люди обычно думают, ясно, чего они них можно ждать и понятно, как они функционируют с точки зрения анатомии. С роботами дело обстоит иначе и далеко не так прозрачно.
Однако совершенно ясно, что в ближайшее время мы обнаружим себя в мире, где киберфизические сущности станут активными действующими лицами на сцене человеческого театра: они будут трудиться, помогать и развлекать – все «во благо людей», согласно принципам Хартии робототехники. И, хотя также очевидно, что споры о существе программных личностей не утихнут в ближайшее время, остается лишь «самостоятельно» — согласно принципам — выбирать собственную стратегию взаимодействия с потенциальными соседями и согражданами. Игнорировать ли их? Проверять ли их на прочность, рискуя «убить»? А, может, вообще все бросить и вложиться в разные колонизаторские затеи — например, в проект Илона Маска по освоению Марса? Так или иначе, человечество может сохранить свою субъектность, даже делясь ею с разными личностями не-человеческой природы. А вот удастся ли нам при этом сохранить человечность — большой вопрос.
Екатерина Арье, Оксана Мороз
