Нет, конечно, проблематика, которой была посвящена пленарная установочная сессия Международного форума «Дух Победы и мировая гуманитарная повестка», была сформулирована более академично. А именно: «Человек – субъект истории или объект проектирования? Главный выбор XXI века».
И участники прошедшего в Москве в мае и растянувшегося на две трети месяца философско-инженерного симпозиума о выводах по главной теме особо и не спорили. Всё очевидно: человек просто обязан быть субъектом истории, и именно наша, русская Победа в 1945 году освободила человечество от участи быть объектом – объектом нацистского отбора, объектом рабской эксплуатации, объектом насильственного проектирования по воле и представлению фашистских демиургов. Которые, по меткому выражению участника форума, заместителя председателя комиссии Генерального совета партии «Единая Россия» по международной деятельности Владимира Плигина, редуцировали человека до функции, в результате чего тот перестал быть объектом безусловной ценности.
Но в ходе разговора всплыла и другая тема. Тема, вырастающая сегодня над горизонтом, словно грозная цифра «1941» в истории России.
Не стоит успокаивать себя, мол, вопрос нашего тотального уничтожения на повестке вроде бы не стоит. Зато с похожей механической безжалостностью – и не только перед нами, а перед всем человечеством – снова встаёт вопрос человеческой субъектности. Субъектности перед порождённой людьми же технологической трансформацией, во главе угла которой всё более уверенно располагается искусственный интеллект.
И уж даже если Папа Римский в своей только что обнародованной энциклике призывает людей «оставаться глубоко человечными» в эпоху «искусственного интеллекта, когда человеческое достоинство рискует быть заслонено новыми формами дегуманизации», – значит, повод задуматься у человечества есть. Не потому, что – Папа, а потому, что…
Котик.
При чём тут котик
Этот образ подарил коллегам по дискуссии координатор Комиссии проекта «Выбирай Своё» по научно-технологическому и инновационному развитию «Интеллектуальный суверенитет» ВПП «Единая Россия» Владимир Сметана.
«Сегодня появляется новая технология, программное обеспечение, инфраструктура в целом, которая будет на порядок превосходить наши биологические возможности, - констатировал он. - И если у нас будет технология, превосходящая нас кратно, ИИ будет умнее нас и технологичнее. Мы будем думать, что мы ставим задачу, а на самом деле он легко нас обойдёт. Он будет понимать, о чём мы думаем, управлять нами. Приведу пример с домашними животными: котик бегает, просит есть, мы его кормим. Мы будем этими котиками в перспективе, если будем развиваться по инерции – модели нас просто поглотят».
Собственно, процесс поглощения уже начался – такой вывод сам собою исходит из выступления Алексея Краснера, директора Департамента искусственного интеллекта и анализа данных ICS Consulting.
«Главный риск искусственного интеллекта не в том, что машина вдруг станет умнее человека, - говорит он. - Риск тоньше: человек формально принимает решение, но его поле зрения уже подготовлено алгоритмами. Он видит не ситуацию, а ранжированную выдачу. Не пациента, а профиль риска. Не сотрудника, а конкретный балл по скорингу».
Элементарный пример, всё более модная – ибо эффективная - нынешняя практика управления: когда руководитель открывает интерфейс системы и видит готовый список рекомендаций наверху, он уже не думает свободно. Решение, по сути, принято за него; дальше он только подписывает. Причём подписывает тем охотнее, чем преданнее ИИ освобождает его… от необходимости принимать решение!
Ведь человек может быть зажат временем, и времени на полноценный анализ не хватает. С этим уже сталкиваются преподаватели вузов: известно, что студент от века самое занятое существо на планете, вот и поручает он курсовые свои ваять искусственному разуму.
Человек может исчерпать когнитивный ресурс. Как, например, врач, принимающий тридцатого пациента за день, и которому стало уже всё равно, что у того там за болячки, и он просто механически вбивает его анамнез в базу данных. А там уж искусственный интеллект правильный диагноз вынесет. Или приговор.
Человек может не иметь альтернативного источника информации помимо того, что ему показала модель ИИ. Или ему некогда (как в первом примере со студентом) или нет сил (как во втором – с врачом) его искать. И пользуясь только этим источником какой-то инженер примет решение, быть может, и верное, но, скажем, более дорогое или трудоёмкое, нежели иное возможное.
Наконец, человек может просто полениться искать какие-то собственные решения, когда так заманчиво просто нажать кнопку или поставить свою подпись под уже предложенным решением. И об этом немало пишут – когда ИИ несёт чушь, алгоритмически запитываясь преобладающим количеством чуши в интернете, а какой-нибудь блогер, запитываясь уже от ИИ, её некритично повторяет.
И это ещё достаточно невинные примеры. А если этот же веер вариантов будет раскрываться в военной сфере?
Уютная дегуманизация
Кстати, со своей «колокольни» в набат бьют и психологи. Люди изначально не равны перед цифровой архитектурой, предупреждает старший преподаватель Херсонского технического университета Светлана Колобова: их субъектность может быть снижена ещё до взаимодействия человека с интерфейсом.
«Хронический стресс, дефицит сна, высокая тревожность, слабый тормозной контроль, а также возрастные факторы (включая и подростковый период, и когнитивное старение) приводят к снижению ресурсов префронтальных систем, - предостерегает психолог. - С нейропсихологической точки зрения субъектность обеспечивается не волей как таковой, а работой конкретных функций: удержанием внимания, рабочей памятью, способностью торможения, отсрочкой реакции и критической проработкой информации».
Исследования указывают на системное сокращение паузы между стимулом и реакцией и усиление автоматизма поведения: последовательность стимулов и реакций просто не оставляет человеку времени на консолидацию информации и не задействует тормозной контроль. Без паузы торможение не включается. А без торможения выбор, соответственно, заменяется просто автоматической реакцией.
«Если описывать субъектность как рабочую формулу, то она опирается на 5 компонентов: это энергетический ресурс, внимание, пауза, критичность, поведенческая вариативность. И при систематическом воздействии алгоритмической среды происходит их последовательное ослабление, поведение становится предсказуемым, решения — воспроизводимыми», - рисует Светлана Колобова основную ментальную опасность ИИ-технологии, которая «не отменяет человека внешне, она делает его ненужным изнутри, лишая самого времени на то, чтобы оставаться человеком».
И формулирует свой основной тезис:
«Тот, кто проектирует и контролирует паузу между стимулом и реакцией, сегодня получает возможность управлять границами человеческой субъектности».
И тут мы вновь упираемся в вопрос субъектности и объектности человека. Ибо, как отметил советник генерального директора ICS Consulting, член Научно-экспертного Совета Института экономики РАН по проблемам управления Николай Григорьев, человека совершенно не обязательно подавлять. Человека можно классифицировать, предсказать, направить, выстроить коридор допустимого, а затем сказать: «Ты сам это выбрал».
«Дегуманизация, которая могла быть в XX веке грубой, прямой, насильственной, брутальной (нацизм, фашизм, концлагеря), в XXI веке становится мягкой, сервисной, удобной, рациональной и практически невидимой. Мы оказываемся внутри этого процесса, и нам от этого очень хорошо, тепло, безопасно и спокойно, - сказал он. - Поэтому главный вопрос состоит не в том, использовать или не использовать искусственный интеллект. Главный вопрос в том, остается ли человек субъектом или превращается в объект проектирования».
Так что в целом человек действительно стоит перед опасностью оказаться в роли котёнка перед искусственным интеллектом. Даже, возможно, не осознавая этого и представляя себя вполне независимым. Ну да, те, кто держал хотя бы одного кота, согласно признает: это тот ещё субъект, которым впрямую не поуправляешь. Но всё же решения в доме принимает хозяин.
В том числе и те, что касаются кота.
Но, может быть, люди справятся?
С другой стороны, человечество не впервые сталкивается с подобными вызовами, порождаемыми его же способностью проецировать свои интеллектуальные модели во внешнюю среду. Скажем, изобретение колеса как абсолютно полезного приспособления привело к изобретению 4 тыс. лет назад военных колесниц. И уж на них как на абсолютном для своего времени виде вооружений владельцы колесниц сокрушили не одно царство. И даже, пожалуй, целую цивилизацию, если учесть роль этого оружия в так называемой «катастрофе бронзового века».
Вот и Лев XIV в своей энциклике пугает прежде всего военным применением искусственного интеллекта:
«Мы должны разоружить ИИ, чтобы освободить его от логики военной, экономической и когнитивной конкуренции».
Однако та же история говорит: с такими вызовами человечество покамест неизменно справлялось. С большими или меньшими издержками ставя новое своё изобретение себе на службу. Как, скажем, в том несколько неожиданном примере, который привёл модератор форума, философ и политолог Сергей Волобуев:
«Человек часто порождает то, что оказывается сильнее его индивидуально… Люди же создали автотранспорт…».
Да, действительно – средство повышенной опасности, ежегодно убивающее сотни тысяч человек по всему миру. Но потом – были созданы правила дорожного движения, институты регулирования, напомнил Сергей Волобуев. И как вывод:
«Сегодня человек объективировал свои способности и переложил на машину. Все системы начинают говорить с человеком. Это очень большое испытание для общества, культуры, элит. Люди должны понять, что они выпустили джинна из бутылки, с этим надо будет как-то жить и этим надо управлять. Ситуацию надо организованно взять под контроль. Люди могут справиться с этим только на коллективном уровне, как общество, через специально создаваемые институты».
Так стоит ли бояться искусственного интеллекта?
Стоит, считают философы, инженеры и аналитики, принявшие участие в форуме. Ну, может, и не бояться, но – очень и очень строго и с опаской просчитывать риски, которые несёт ИИ. Ибо сегодня мы сталкиваемся с угрозой, которую не несли ни древние колесницы, ни более близкое к современности ядерное оружие, ни тотальная смартфонизация детей. А именно: где в случае с искусственным интеллектом пролегает граница субъектности, где проляжет граница между человеком и ИИ-средой, которую он создаёт. И это уже, по словам генерального директора ICS Consulting Алексея Пастухова, означает наше столкновение с «уникальнейшей ситуацией, когда вопросы философские, вопросы самого существования человека, вопросы экзистенциальные становятся вопросами политическими, вопросами антропологическими».
То есть?
То есть, разъяснил председатель Совета по развитию гражданского общества и правам человека при Президенте Российской Федерации, советник Президента Валерий Фадеев, «в принципе, иногда можно сказать, что люди являются объектом проектирования». Имеются в виду великие религиозные учения, которые задали траекторию развития человечества, научили людей, как жить.
«Вряд ли можно говорить в лоб о том, что Иисус Христос, Сын Божий, проектировал человечество, - пояснил свою мысль Валерий Фадеев. - Но учение Христа уже 2000 лет задает жизнь огромной части человечества. Иисус Христос научил, как жить, и совершил гигантскую революцию в жизни части человечества».
Но с чем мы сталкиваемся сегодня? Общество потребления: уже больше сотни лет мы хотим потреблять, бизнес хочет производить всё больше, зарабатывать всё больше прибыли. А стали ли люди осмысленнее жить?
Культурный демпинг: с развитием интернета, с развитием социальных сетей, тем более смартфонов — невероятное, невиданное в истории распространение низкой культуры. Которая доселе никогда не позволяла себе задавать ориентиры, никогда не позволяла себе командовать высокой культурой.
Образование: в огромной степени с ним связаны проблемы общества потребления, культурного демпинга, экологические проблемы. А каким должно быть образование будущего, которое ответит на эти вызовы?
Вывод снова очевиден: всё это постепенно, но неуклонно низводит человека с позиции субъекта истории в положение объекта. Причём не столько истории – это уже следствие, - сколько возможностями манипулирования им. И мощным инструментом манипулирования как раз и становится сегодня искусственный интеллект. Причём не в последнюю очередь – при горячем участии самого человека.
Субъект – это воля и собранность. Наличествуют ли они?
Считает ли человек себя исторически взрослым, или он ребёнок, который может передоверить свою субъектность искусственному интеллекту? Этим вопросом задался философ, доцент философского факультета МГУ имени Ломоносова и главный редактор портала «Русская истина» Борис Межуев. И сам же отметил: «Ни одна наука не дает на это ответа; этот ответ лежит в сфере философии и священных текстов».
Однако директор НИИ социальной философии Казанского инновационного университета Олег Агапов направление преодоления этого тупика задал своим определением: «Субъект — это воля и собранность». Каковые качества и должны, по логике, определять границы человеческой субъектности и – да, «исторической взрослости».
«Сегодня сталкиваются две линии мышления, – подведём предварительный итог этого разговора словами советника генерального директора ICS Consulting Николая Григорьева. – Первая линия видит в искусственном интеллекте инструмент усиления. Машина считает, прогнозирует, сопоставляет варианты. Помогает врачу, инженеру, учителю, управленцу и государству принимать более точные решения. В этой модели человек остается в центре.
Вторая линия опаснее. Здесь искусственный интеллект постепенно превращается в квазисубъект. Он уже не только помогает выбирать средства, он начинает формировать цели, нормы поведения, допустимые сценарии жизни. Опасность цифровой эпохи состоит в том, что и человек начинает рассматриваться как ресурс данных. Не данные — ресурс для человека, а человек — ресурс данных, поведенческий материал, объект настройки».
И здесь, по убеждению Григорьева, философия перестаёт быть украшением, она становится инфраструктурой различения: где технология служит человеку, а где начинает проектировать человека вместо него самого. Искусственный интеллект как инструмент усиливает человека или искусственный интеллект как квазисубъект замещает его субъектность?
Ответ учёного таков:
«Сегодня искусственный интеллект чаще всего оценивают по некоторым внутренним параметрам: кто быстрее, у кого окно больше, сколько миллиардов токенов там, и так далее, и так далее. Этого совершенно недостаточно. Нужен дополнительный уровень оценки, где выясняется, что система делает с человеческой субъектностью. Формула гуманитарного стандарта должна быть предельно простой: искусственный интеллект допустим там, где он расширяет способность человека действовать ответственно. Искусственный интеллект недопустим там, где он подменяет человека как источник цели, смысла и ответственности».
Что же нужно, чтобы подтвердить ту самую «историческую взрослость» перед таким на глазах наливающимся силою – да и собранностью, пожалуй, – конкурентом, как искусственный интеллект? Ответ вполне очевиден. Во всяком случае, для нас, русских, народа-победителя. Для нас, кому близок, причём экзистенциально близок тот самый дух Победы. И нами, народом-победителем, экзистенциальные вопросы слышатся и воспринимаются острее, чем другими, ибо во многом на той великой Победе базируется сама наша нынешняя идентичность.
И потому нам не только нельзя в беспомощной растерянности принимать действительно входящие в наш мир вместе с искусственным интеллектом опасности – как, впрочем, и опасности отстать от передовых технологий, с ним связанных, – нам нельзя не лидировать в освоении ИИ.
Снова надо побеждать.
Обозреватель Аналитического центра ТАСС Александр ЦЫГАНОВ