Велика России и много в России, увы, проблем. А этим летом стало еще больше. Есть, право, чем заняться представителям власти. Так что тема последнего заседания Комиссии СФ по информационной политике и взаимодействию со СМИ - "Человек как автор информационной революции или как раб информационной революции? Поиски баланса", - может на первый взгляд показаться несколько далекой от актуальной повестки. Но это впечатление обманчиво.
Иллюстрацией того, насколько злободневны поднятые здесь вопросы, может служить реплика одного из выступавших - советника Президента РФ, председателя СПЧ Валерий Фадеева. Валерий Александрович поделился впечатлением от одной дискуссии на недавнем Петербургском международном экономическом форуме: "Обсуждали искусственный интеллект. Представитель серьезной компании говорит: как здорово, нейросети. Вы запрос делаете про винтажную сумочку, и вам подробный ответ: какие бывают винтажные сумочки, какая вам подойдет.
А примерно в это время, извиняюсь, хреначат по Кронштадту. И попадают по Кронштадту. А мы сумочки винтажные обсуждаем! Причем это же "Палантир" (американская компания, разработчик программного обеспечения, ключевые заказчики - военные и спецслужбы. - "МК"). Плюс разведки НАТО. Там искусственный интеллект используется... Нам вот где не отстать. С винтажными сумочками мы разберемся. Нам в военной сфере надо во что бы то ни стало быть лидерами. У нас сдвиг происходит в сторону потребления опять".
Как несложно догадаться, на заседании "информационной" комиссии Совфеда также обсуждался искусственный интеллект. Но тут тревоги было куда больше, чем восторгов. "Плюсы (ИИ. - "МК") более-менее понятны уже, - сказал в своем вступительном слове "хозяин" мероприятия, председатель Комиссии СФ по информационной политике и взаимодействию со СМИ Алексей Пушков. - Это повышение эффективности управления, военных систем, совершенствование работы крупных организаций - банковских, предпринимательских и так далее.
Но есть угроза дегуманизации. Человек способен попасть в высокую степень зависимости от новых технологий и от искусственного интеллекта. Что может нанести удар по человеческому достоинству, по его человеческой сущности".
Обосновывая тезис о том, что развитие технологии может привести к расчеловечиванию, сенатор сослался на известные литературные произведения в жанре антиутопии. Первым в этом ряду Пушков назвал роман Евгения Замятина "Мы".
"Главная особенность романа - это, с одной стороны, целенаправленное уничтожение личности властью, а с другой стороны, согласие личности на такое самоуничтожение, - напомнил Пушков. - Люди воспринимают себя не как индивидуальность, а как номера, живут в прозрачных домах, где видны практически все их действия, испытывают предписанное им счастье от такого существования, поклоняются некоему виртуальному благодетелю, которого никто никогда не видел... А в случае отклонения от этой модели поведения подвергаются ликвидации".
Выступивший следом Валерий Фадеев представил написанный группой экспертов доклад "Дух победы и мировая гуманитарная повестка. Нюрнбергский императив в эпоху антропотехнического перехода".
"Главная угроза эпохи - не фантастическое восстание машин, а мягкое никем не объявленное расчеловечивание. Превращение человека из субъекта истории, права в объект профилирования, коррекции и управления", - процитировал Валерий Александрович экспертный доклад. И добавил уже от себя: "Похоже, страшный суд, если он будет, будет не со всадниками страшными, а будет вот такое тихое угасание человечества... На этом все и закончится".
Дабы конец света не случился, авторы доклада предлагают человечеству провести следующие красные линии: 1) "фундаментальные решения о жизни, теле и природе человека не должны быть прерогативой цифровых систем"; 2) "правосудие, законотворчество, приговоры, нормы не могут возникать без человеческого авторства"; 3) "культурное производство в его смыслообразующем ядре", "нельзя передавать машине самоистолкование общества"; 4) "когнитивная сфера", "ребенок не должен становиться объектом автономного воспитателя"; 5) "недопущение автономных систем к управлению ядерным оружием и другими средствами необратимого ущерба".
Впрочем, как следует из высказывания того же Фадеева, приведенного в начале материала, у этой темы есть и другая сторона. Рука об руку с опасениями, связанными с быстрым развитием ИИ, идет тревога по поводу того, что Россия, мягко говоря, не лидирует в технологической гонке. Если Фадеев лишь коснулся этой проблемы, то член СПЧ, глава компаний "Ашманов и партнеры" и "Крибрум" Игорь Ашманов заявил о ней со всей прямотой: "Надо смотреть правде в глаза. Эта правда нехорошая, очень неприятная: все развитие технологий искусственного интеллекта происходит за пределами нашей страны.
То, что делается у нас, необычайно вторично. Из, наверное, семи уровней искусственного интеллекта... наши разработчики ковыряются в двух верхних, фактически в обвязке пользовательских интерфейсов. Все остальное заимствовано".
Есть, однако, и хорошие новости. Гонцом выступил Алексей Пастухов, гендиректор компании "Ай Си Эс Консалтинг", представленный как организатор и один из авторов экспертного доклада. Начал, правда, и он с неприятного. В новый технологический виток, сообщил докладчик, Россия входит, увы, "не на первых местах и не на первых ролях".
Между тем место на "поезде, который идет в будущее", России необходимо. Получить его за счет технологического преимущества мы, увы, не можем. "Наши возможности в этом сейчас ограничены", - признал Пастухов. Но есть у нас, по словам эксперта, другой козырь - "преимущество нравственное": на "поезд" мы можем сесть "как носители нравственного нарратива - что можно, а что нельзя".
Право чертить красные линии в сфере ИИ, считает Пастухов, мы обрели "как победители во Второй мировой войне, как носители идеологии Победы". "Этот посыл ценен в том числе и окружающему миру, - уверен Пастухов. - Мы должны этот нарратив, эту мысль транслировать в окружающий мир... С нами в этом плане должны считать и наши коллеги с Юга, и наши коллеги с Запада".
Алексей Пушков поддержал эксперта: "Согласен с тем, что нравственность в современном мире становится ресурсом... В мировом общественном мнении Соединенные Штаты, Западная Европа выглядят как носители безнравственности. От личной жизни и до внешней политики. Здесь есть ниша, которую мы можем занять. Мы должны распространять образ России как носительницы нравственного начала".
Но хотя выступление Алексея Пастухова было последним, вряд ли оно поставило точку в дискуссии. То, что Россия сможет въехать в светлое будущее и занять там достойное место под солнцем, не добившись преимущества в технологиях, на одном лишь нравственном начале... Нет, антиутопией это, конечно, не назовешь. Но вот на утопию очень похоже.
Подпишитесь на Telegram "МК": еще больше эксклюзивов и видео!
Автор: Владимир Данилов