Заменить депутатов роботами не получится, поскольку у последних отсутствует совесть, полагает спикер Госдумы Вячеслав Володин. Выступая на пленарном заседании 25 сентября, он заявил о невозможности замены депутатов искусственным интеллектом (ИИ). Свои рассуждения он подкрепил примером депутата, который тянул руку с целью получения права на выступление. Если бы за регламент отвечал искусственный разум, депутата могли бы не допустить к микрофону, посчитал спикер. По словам законодателей, нужен базовый закон о взаимодействии человека и робота, но пока разрабатывать эти законы должны люди, а не роботы. Сергей Александрович, помните, мы с Вами обсуждали, кого может с успехом подменить ИИ, и приводили в пример банкиров? Думцы говорят, что пока им замены в виде ИИ нет, потому что «у нейросетей нет совести, а у депутатов совесть есть».
Сергей Михеев: В качестве шутки я готов это принять, а если серьезно говорить, то вопрос о власти не может быть доверен неживому. Первое: какие бы выборы ни были, но депутатов выбирают конкретные люди, которые не могут избирать компьютерную технологию. Процесс выборов представителей народа может быть роботизирован? Нет.
Второе: за компьютерными технологиями всё равно стоят какие-то люди, просто вы их не видите. Сама по себе эта дискуссия и когда все эти вещи начинаются - это подтверждение тому, что я говорил: все разговоры про ИИ - это вопрос о власти (скрытой, явной власти или потери контроля над ситуацией). Даже вбрасывание этих тем в обсуждениях -сначала шутливо, потом серьезно - готовит почву для потери контроля над ситуацией и передачи власти теневым структурам, которых вы не знаете, под предлогом того, что они будут «более эффективными, объективными» и т.д.
Что касается США и всех остальных, то они могут не торопиться с этими вещами. Иногда мы сами себя убеждаем, что «надо быть впереди планеты всей». Только вопрос: в чём «впереди планеты всей»? В том, чтобы свалиться в какую-нибудь пропасть? «Нам надо успеть»: скажите, куда конкретно надо успеть? Есть такие процессы, при которых скорость не является синонимом качества, поэтому надо сначала подумать.
Я слышал, что глава Минобрнауки Валерий Фальков сказал, что с ростом влияния технологий обостряются вопросы, требующие юридического вмешательства. Главные из них – как установить авторство научного результата, полученного с помощью нейросетей, и как обеспечить достоверность такой информации? Россия уже включилась в поиск ответов на эти вызовы, и одним из значимых шагов стало создание Кодекса этики в области ИИ. Этот документ закладывает принципы ответственного подхода к разработке и применению технологий. Мне кажется, что мы здесь уже немного опоздали. Мы так спешили куда-то не опоздать, что во многих вещах уже опоздали и позволили всем этим технологиям изменять реальность вокруг себя, иногда непродуктивным способом.
Здесь нужен анализ и не только людей, которые зарабатывают на этом деньги, и не только технарей, которые часто гуманитарных составляющих процессов не понимают, потому что это, в первую очередь, вопрос контроля над ситуацией.
С одной стороны, вопрос контроля, а с другой стороны - мы видим и по заявлениям господина Фалькова, что по сути цифровой алгоритм хотят наделить некими человеческими свойствами (он говорил про «этические рамки»). Вячеслав Володин напоминает, что у ИИ нет совести. Не слишком ли мы очеловечиваем ИИ? Или это вопрос к тем, кто всё разрабатывает и внедряет?
Сергей Михеев: Это ровно то, о чём я говорю не первый год. Этот вопрос надо задать тем, кто со страшной силой и бешеной энергией продвигает ИИ во все сферы, куда надо и не надо. Это и есть главный вопрос: чтобы он не заменил человека.
Что касается Кодекса этики, то, в первую очередь, это должно касаться людей, потому что у компьютерной технологии не может быть этического кодекса - она не есть личность. Всё это базируется на убеждении в том, что человек – это всего лишь «кусок мяса» с более продвинутыми способностями, чем животное. У него якобы совести нет, а всё, что он думает и чувствует, -это электрохимические реакции. Всё это связано с вопросом веры и неверия в человека, душу, личность и т.д. Все апологеты технического прогресса и ИИ отказывают человеку в праве иметь личность, потому что такие категории, как этика и совесть, к «куску мяса» не имеют никакого отношения. Всё это не имеет никакого отношения к электрохимическим реакциям, которыми можно управлять.
Главный вопрос этой жизни – это верите вы или не верите в бессмертную душу, а всё остальное - имя прилагательное. Если вы верите в Создателя, в некие законы над материальным миром, то у вас будет одно отношение и к людям, и к себе. Если вы не верите в это, то у вас будет другое отношение. Люди, продвигающие ИИ, в это не верят: для них человек – это объект воздействия и субъектностью не обладает. Вопрос этического кодекса - для тех, кто разрабатывает и применяет. Именно эти люди сейчас активно стараются обмануть человечество и представить так, что компьютерная технология обладает личностью, в то время как человеку они отказывают в праве быть личностью. Если человек об этих вещах не задумывается, то даже и не поймет, где его обманывают. Со многими так и происходит: все эти манипуляции «полезно/неполезно», «приносит деньги/не приносит», в итоге постоянно находятся на первом плане.
Значит, совести нет не у ИИ, а у его разработчиков? Так получается. Валерий Фальков беспокоится, что проблема авторства научных данных и работ, достоверность информации, полученной с помощью нейросетей, вызывает вопросы. С другой стороны, всё чаще мелькают сообщения, что ИИ разработал новый вирус ДНК и где-то ещё он поучаствовал. То есть авторство уже не за группой ученых, а за самим ИИ.
Сергей Михеев: Это ложь и подмена, потому что группа товарищей использовала новую компьютерную технологию, а говорят, что сделал ИИ. Таким образом, любой научный процесс, где используются вычислительные алгоритмы, включая счеты и калькуляторы, тоже можно было бы наделить этим авторством. Это откровенная манипуляция, фальсификация, которая идет в глобальном масштабе, и мы в этом плывем вместе со всеми, позволяя себя обманывать.
