На Международном юридическом форуме председатель КС РФ выступил с серьезной лекцией и поднял вопрос о возможности наделения искусственного интеллекта (ИИ) правосубъектностью.
Правосубъектность - это возможность быть субъектом права, человек наделен правосубъектностью (правоспособностью) с рождения.
Правосубъектность — способность лица иметь и осуществлять, непосредственно или через своих представителей, субъективные права и юридические обязанности, то есть выступать субъектом правоотношения.
Понятие правосубъектности складывается из трёх слагаемых: правоспособности - возможность иметь субъективные права, нести субъективные обязанности, человек наделен правоспособностью с рождения;
дееспособности - способность физического лица своими действиями приобретать и осуществлять любые допускаемые законом гражданские, имущественные и личные неимущественные права, принимать на себя и исполнять любые гражданские обязанности в полном объеме.
деликтоспособность - способность лица самостоятельно нести ответственность за вред, причинённый его противоправным деянием (действием либо бездействием).
В ходе своей лекции на Петербургском международном юридическом форуме председатель КС РФ не поддержал идею о наделении искусственного интеллекты (ИИ) правосубъектностью, но обратил внимание на то, что предстоит кропотливая работа по выстраиванию конституционно-правовых рамок для так называемого сильного искусственного интеллекта.
ССЫЛКА НА ВЫСТУПЛЕНИЕ ЗОРЬКИНА «Право и вызовы искусственного интеллекта».
То есть прозвучало предложение приравнять ИИ в части возможности иметь права и обязанности к человеку. Мы не можем разобраться с живыми существами, которые живут рядом, дышат, чувствуют, дарят нам эмоции, то бишь - мотивацию. Но мы озаботились надстройкой в виде ИИ, надстраиваем крутую крышу на фундаменте в трещинах. Даже ИИ существует исключительно благодаря природе, а магнитные бури и вспышки на солнце могут вызвать его дисфункцию.
Зорькин процитировал доклад ЮНЕСКО, а я цитирую Зорькина:
В Докладе ЮНЕСКО «Об этике робототехники» (2017) названы четыре основные характеристики современного робота: мобильность, интерактивность, коммуникативность, автономность, позволяющая анализировать и самостоятельно принимать решения, осуществлять действия без вмешательства и контроля со стороны человека.
Исследователи Google выделили уровни ИИ: развивающийся, компетентный, экспертный, виртуозный и сверхчеловеческий. ИИ компетентный превосходит 50% взрослых людей, обладающих квалификацией, в широком спектре умственных задач; а ИИ сверхчеловеческий определяется с порогом в 100%. ИИ станет соответствовать человеческому интеллекту скорее всего к 2040-2080 годам.
Без помощи искусственного интеллекта человечеству уже не справиться с обработкой накопленной цифровой информации. А она достигла масштабов, аналогичных биологической информации в биосфере (включая содержащуюся в геномах всех людей). С 1980-х годов объем хранящейся цифровой информации удваивался примерно каждые 2,5 года.
Однако в свете невиданных успехов ИИ мы не должны забывать –– перед нами совершенно иной тип интеллекта, коренным образом отличный от человеческого.
Это разум, который может полностью игнорировать всё, что мы считаем ценностно важным. Сами духовные и крёстные отцы ИИ, трубадуры великих преимуществ ИИ предупреждают, что подобная сущность, потенциально более опасная, чем ядерное оружие, может в конечном итоге уничтожить жизнь на Земле. Тревогу бьют представители правительственных структур. Предупреждают и религиозные лидеры.
Зорькин задался вопросом : Станет ли искусственный интеллект блюсти три закона робототехники Азимова? Для части моих комментаторов и законы роботехники равнозначны моему плачу Ярославны, но они о них и не слышали. А вот Зорькин слышал и помнит.
Вот эти законы:
Первый закон категорически запрещает роботу вредить людям, второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.
Нулевой закон робототехники гласит: Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
Однако, председатель КС РФ полагает, что без помощи искусственного интеллекта человечеству уже не справиться с обработкой накопленной цифровой информации. Уже сейчас искусственный интеллект способен осуществлять действия, ведущие к множеству социально и юридически значимых результатов. Вместе с тем, добавил спикер, ИИ на "полных парах" проникает в сферу юриспруденции. Разрабатываются платформы и цифровые инструменты, которые облегчают профессиональную деятельность за счет выполнения рутинных задач. Например: автоматизация типовых юридических услуг и онлайн-сервисы для клиентов с ботами; частичный переход правосудия в онлайн-сферу и разработка типовых решений на основе ИИ, включая конструкторы документов; сервисы проверки контрагента и системы поиска судебной практики, а также иной правовой информации (Консультант+, СБИС, ГАС-Правосудие (не к ночи будь помянуто и в понедельник), голосовые помощники, навигаторы, пылесосы и прочее)
Однако, подчеркнул Валерий Зорькин, в свете невиданных успехов ИИ не нужно забывать, что это совершенно иной тип интеллекта, коренным образом отличный от человеческого, а риски, объективно связанные с искусственным интеллектом, огромны. Действительно, сейчас складывается ситуация, когда о некоторых представителях нашего общества даже нельзя сказать "деградировали", ибо это предполагает некий ранее приобретенный уровень. Но мы замахиваемся на взаимодействие с интеллектом, превосходящий человеческий.
Далее, Зорькин поднял вопрос о «личной правосубъектности ИИ».
Всё слышнее призывы наделить искусственный интеллект личными правами. Это огромной важности мировоззренческий вопрос, во многом связанный с настоящим и будущим человечества.
В законодательстве Российской Федерации правовой статус искусственного интеллекта в настоящий момент не определен, однако в доктрине на данный счет сформулированы альтернативные подходы:
- ИИ является объектом права (имуществом);
- ИИ является субъектом права: по модели юридического лица, особый правовой статус «электронного лица», по модели физического (!) лица.
Итак, ИИ - это имущество. Но это "имущество" как раз нам и покажет, что не надо быть самонадеянными. От ИИ мы уже не откажемся: а как же покупка билетов, запись к врачу, кредиты онлайн и Госуслуги?
Еще раз процитирую Зорькина:
Например, в докладе Комитета по правовым вопросам Европарламента ставится вопрос о наделении самых развитых роботов и ИИ особым статусом «электронной личности» с набором определенных прав и обязанностей.
Обсуждаемый вопрос – отнюдь не только технологический и юридико-догматический. Это огромной важности мировоззренческий вопрос, во многом связанный с настоящим и будущим человечества.
Электронная личность, которой есть права, обязанности и деликтоспособность.
Вот на деликтоспособность и сделал акцент Зорькин.
Статус искусственного интеллекта резонно обсуждать в контексте ответственности за ущерб, причиненный в результате его функционирования. Для привлечения искусственного интеллекта к ответственности нет никаких оснований по причине отсутствия субъективной стороны: вины внутреннего психического отношения к совершенному деянию, эмоций как душевного состояния в момент противоправного посягательства.
Нет смысла придумывать для программы наказание, негативные эмоции от которого она не будет переживать. Все, на что будет способна машина, закладывается в нее изначально человеком, т.е. ошибка системы − ошибка ее создателя. Он пояснил, что категория «правосубъектность» и вообще право − это продукты не просто человеческого сознания, а прежде всего самосознания человека. Человек создавал их, познавая на протяжении тысячелетий особенности своего социального поведения, во имя более благополучной коммуникации с себе подобными, исходя из только ему присущих потребностей, не исключая духовных и эмоциональных.
Зорькин ответил, что играя с ИИ нужно и необходимо не забывать о важности нашего мировоззрения, нашего ощущения себя человеком с эмоциями, эмпатией и мечтами. Нам может быть жалко, у нас есть воспоминания. Именно эмоционально окрашенные воспоминания, а не структурированная память.
«Возможно ли оцифровать человечность, любовь, эмпатию − все то, что слагает нашу идентичность? Отвечаю: нет. А потому мыслительный процесс искусственного интеллекта никогда не будет подобен человеческому», − считает Валерий Зорькин.
Как подчеркнул председатель КС, для того чтобы обладать дееспособностью и самостоятельно реализовывать личные права, требуется набор психических свойств.
Которых нас сейчас активно пытаются лишить. нас хотят лишить эмпатии, сочувствия, сопереживания, положительных и отрицательных эмоций. Наши жертвы насилия не защищены, некоторые живые существа рядом с нами не наделены даже правоспособностью. В то время как нашим изобретениям мы готовы дать правосубъектность.
Человека можно лишить эмоций. Но эйфория первых пяти лет успеха сменяется понимаем, что больше нет мотивации, нет желаний, нет перспектив.
Выскажу надежду, что Зорькин вспомнит свой доклад, вспомнит о преимуществе эмоционального над неэмоциональным, когда, как председательствующий, будет отдавать свой голос за или против кровавых законов. А то ведь, лет через сто часть человечества признают инвазивными видами, а у ИИ в его памяти быстро найдется много примеров и готовых руководств к действию.
Повторю ссылку на Выступление Зорькина, стоит прочесть. ССЫЛКА
Спасибо всем, кто меня поддерживает!
Дзен сделал возможность продвижения канала платным, за рекламу я должна платить. Или мои показы будут ограничены (что сейчас происходит).
Для того, чтобы я могла уделять больше времени защите животных прошу поддержать на карту 2202 2035 0501 4870 (Евгения Сергеевна П.)