Человечество заметило, но ещё не до конца осознало новую реальность. В которую влезло или, точнее, создало само. И в которой для него, человечества, возникла чуть ли не экзистенциальная угроза – утерять свой суверенитет. И перед кем? Перед искусственным разумом!
Появлению и осознанию этой угрозы был посвящён прошедший в три этапа Международный форум «Дух Победы и мировая гуманитарная повестка». Его участники – представительная группа философов, социологов, политологов, психологов, айтишников и специалистов в смежных областях знаний стремились сформулировать, во-первых, основную опасность, которую несёт искусственный интеллект, а во-вторых, рецепты преодоления этой опасности.
Но первый вопрос, впрочем, стоит поставить на базовом уровне: а не «слишком ли это слишком» – говорить об опасности ИИ, который сам пока ещё в коротких штанишках пребывает? Оказывается, нет, утверждают специалисты. Опасность существует. Более того, она накапливается и при достижении некой критической массы искусственный интеллект преодолеет сначала ментальные возможности человека, затем – его контрольные возможности, а далее – и самого человека. Вытеснит его из сферы принятия решений. Превратит в этакого домашнего котика, который гуляет покамест сам по себе, но судьбой его распоряжается всё же хозяин.
Об этом шла речь в первом опубликованном Аналитическим центром ТАСС материале с форума. Теперь – продолжение темы.
Человек преодолён?
На самом деле искусственный интеллект опасен не более, чем, например, ядерное оружие. Ибо опасно не орудие в руках человека, а сам человек. Вот и искусственному разуму человек начинает придумывать применение, делающие его смертельно опасным для человечества.
Так, например, по мнению старшего научного сотрудника Российского НИИ культурного и природного наследия Александра Рудакова, в интеллектуальном пространстве человечества доминируют три тенденции, ведущие к преодолению именно человека.
Первая, представленная широко известным Манифестом Palantir, тянет людей в техно-авторитарную, технофеодальную диктатуру, считает Рудаков. Это – так называемое «Тёмное Просвещение», концепт, в котором человек интерпретируется лишь как объект и ресурс, а человечество - как некая регрессивная биомасса. А на вершине иерархии находится сверхчеловек. «Это концепт, который навевает определённые воспоминания и ассоциации», - отметил учёный.
Вторая тенденция — это глобалистский трансгуманизм, представленный Ювалем Харари и творческим коллективом под началом Клауса Шваба. Здесь человек — это алгоритм, набор данных, духовное измерение которого отсутствует. Права, свободы, достоинство человека – это всё конструкт, субъективный вымысел, который можно использовать, а можно и нет в зависимости от ситуации.
Третья тенденция — левокритическая, философия новых левых, представленная широким спектром авторов. Для новых левых человек — это не биомасса, не потенциальный раб, не алгоритм, но всё равно социальный конструкт, которым можно управлять и который можно трансформировать.
Что этому можно противопоставить? Александр Рудаков предлагает сформировать ответ на эти вызовы в виде концепта возвращения субъектности человеку. «По сути, это та же идеология традиционных общечеловеческих ценностей, - подчеркнул он. – Это конструкция, которую можно философски и политически оформить как возвращение человека к самому себе на новой основе без отрицания технологий, но с их очеловечиванием. И без отказа от разума, но с соединением его с верой, переориентацией прогресса с количества на качество, с потребления на созидание».
Человек — субъект истории или объект проектирования?
Так звучала одна из тем первого сессионного дня форума. Но и, собственно, сам форум был и поиском ответа, и ответом на этот вопрос. Ответом категоричным: человек субъектен и должен оставаться таковым, несмотря на соблазн переложить решения на «плечи» ИИ. Но вот как обеспечить эту субъектность в рамках той технологической трансформации, которая сейчас происходит? И которая уже подчас определяет наши решения и нашу жизнь?
Тут какого-то явного, всем понятного рецепта нет, здесь ответы только ищутся. Ибо субъектность, как это сформулировал зампред комиссии Генерального совета партии «Единая Россия» по международной деятельности, сопредседатель Ассоциации юристов России Владимир Плигин, не является естественным состоянием человека. Она представляет собой результат определённого правового и культурного порядка и требует как институционального обеспечения, так и философского осмысления.
А угроза ей, по мнению другого «единоросса», депутата Госдумы Николая Николаева, воплощаться сегодня может в мягкой форме — заботы, сервиса, безопасности, цифрового удобства. А между тем, цифровые и медицинские технологии переходят из категории «сервиса» в категорию инструментов контроля. Как, скажем, биометрия, отказ от которой «становится не правом, а переходит в стадию подозрения». Так что расчеловечивание в XXI веке может прийти с языком заботы, с идеей эффективности и с цифровой платформой, обеспокоен политик.
«Сегодня мы находимся в условиях расчеловечивания 2.0, - согласен с ним директор НИИ социальной философии Казанского инновационного университета Олег Агапов. - Оно приходит под соусом усталости быть человеком: «Давайте расслабимся, за нас всё сделает кто-то другой». Мы увлеклись искусственным интеллектом и почти забыли категорию сознания и самосознания, а именно с них начинается субъектность».
Что с этим можно сделать?
Прежде всего – с философского осмысления того, что делает человека человеком и тем самым субъектом, актором истории.
«Человек как субъект действия — это не просто биологическое функционирование, а начало поступка, политической ответственности, - напомнил максиму известного философа Ханны Арендт советник генерального директора ICS Consulting, член Научно-экспертного Совета Института экономики РАН по проблемам управления Николай Григорьев. - Человек начинается там, где он способен начинать новое, а не только следовать заданным программам».
Второе осмысление – осмысление угрозы.
«Опасность цифровой эпохи состоит в том, что и человек начинает рассматриваться как ресурс данных. Не данные — ресурс для человека, а человек — ресурс данных, поведенческий материал, объект настройки», указал Григорьев.
В связи с этим исследователь выделяет четыре угрозы, по его словам, «онтологическому суверенитету».
«Первое – патерналистское цифровое управление, - перечисляет учёный. - Власть все чаще действует не через прямой запрет, а через нормирование поведения, рейтинги, предикцию, цифровое подталкивание. Забота становится незаметным программированием. Вторая угроза – автоматизация управленческих контуров. Формально решение принимает человек, но фактически пространство выбора сформировано алгоритмом. Третья – стратегический застой под видом осторожности. Ответственность – это не панический отказ от действия. Это способ действовать так, чтобы не разрушить будущее. Четвёртая угроза – трансгуманизм без границ, когда стираются различия между человеком и машиной, личность теряет онтологическую устойчивость».
Третье, что необходимо осмыслить, - сами критерии онтологического суверенитета. Николай Григорьев таковых выделил пять:
«Первый – неотчуждаемость целеполагания; машина может считать варианты, но не должна определять цели человека, организации, государства, народа. Второй – оспоримость: если алгоритмические решения нельзя оспорить, перед нами уже не управление, а закрытая процедура власти. Третий критерий – прослеживаемость. Четвёртый — персональная ответственность. Субъект – это тот, кто способен сказать: «Я отвечаю». Пятый критерий – право на неполную вычислимость. Зона максимальной невычислимости как граждан – это зона достоинства, внутренней неопределённости будущего, внутренняя зона, не подвластная никакому профайлингу, скорингу и прочему».
«И именно это право не быть полностью вычислимым есть ядро онтологического суверенитета», - подчеркнул исследователь.
Вопрос практический: чего нельзя отдать искусственному интеллекту?
Николай Григорьев насчитывает пять зон минимального круга решений, которые нельзя делегировать никакому ИИ.
- Первая – решения о лишении или существенном ограничении прав. Таковые могут и должны приниматься только и исключительно людьми. И здесь не надо бояться ошибок. Бояться надо безошибочности алгоритмов.
- Вторая – решения о доступе к базовым социальным благам. Если такие решения будет принимать цифровая система, алгоритм, мы утрачиваем свой суверенитет.
- Третья – решения, затрагивающие достоинство, репутацию, правовой статус личности.
- Четвёртая – решения о применении силы.
Пятая – решения о стратегических целях: образование, государство, общественное развитие, зона исторической ответственности. Искусственный интеллект можно и нужно применять здесь как аналитический инструмент, а не как инстанцию решения.
Однако возникает ещё она опасность – и, возможно, самая реальная. Это сам человек. Человек, который готов будет – и уже готовится – передоверить принятие решения искусственному разуму. Причём порою сам не осознавая этого.
Главный риск искусственного интеллекта не в том, что машина вдруг станет умнее человека, считает ещё один представитель той же фирмы, директор департамента искусственного интеллекта и анализа данных ICS Consulting Алексей Краснер. Риск тоньше. Это когда человек формально принимает решение, но его поле зрения уже подготовлено алгоритмами. Он видит не ситуацию, а ранжированную выдачу. Не пациента, а профиль риска. Не сотрудника, а конкретный балл по скорингу. Когда руководитель, например, открывает интерфейс системы и видит готовый список рекомендаций наверху, он уже не думает свободно, решение, по сути, принято за него. Дальше он только подписывает».
Для того, чтобы отличить настоящее человеческое решение от решения системы, которое только оформлено подписью человека, Алексей Краснер предложил «простой инженерный критерий»: решение является человеческим только тогда, когда одновременно выполнены следующие четыре условия.
- Первое: у человека есть время на анализ.
- Второе: у него есть когнитивный ресурс, он не на пределе усталости.
- Третье: у него есть альтернативный источник информации, помимо того, что ему показала модель.
- И четвертое: у него есть реальная возможность отклонить рекомендацию без негативных последствий для него.
Какие решения по проблеме ИИ уже пора принимать?
Сегодня искусственный интеллект чаще всего оценивают по некоторым внутренним параметрам: кто быстрее, у кого окно больше, сколько миллиардов токенов там и так далее, и так далее. Этого совершенно недостаточно. Главный вопрос не в том, насколько умной станет машина. Главный вопрос, по мнению участников дискуссии, звучит иначе: останется ли человек тем, кто задаёт цель, несёт ответственность, имеет право не быть до конца вычисленным? Там, где человек полностью вычислен, он уже не свободен, он управляем.
В общем, нужен дополнительный уровень оценки, что система делает с человеческой субъектностью. Что мы можем придумать конкретно сейчас, чтобы не упустить ситуацию с искусственным интеллектом из рук? Как это удалось сделать, например, с ядерным оружием.
Участники форума сошлись в том, что необходимо срочно принимать институциональные решения.
Алексей Краснер, например, предложил создать национальный стандарт для критических решений, в который и включить проверку тех самых четырёх условий субъективности.
«Первый шаг — зафиксировать, принять, что для систем класса «А» (это решения о приговоре, о тяжёлом диагнозе, о доступе, о стратегических вопросах государства) четыре условия должны быть обязательным требованием. Не пожеланием, не лучшей практикой, а требованием. Второй шаг – это аудитировать, создать процедуру независимой проверки на выполнение этих условий. Так же, как сегодня устроена сертификация по информационной безопасности. Третий шаг — закрепить ответственность, чтобы по каждой системе класса «А» было ясно: кто задал цель, кто допустил данные, кто утвердил порог автоматизации. Сегодня этот контур размыт. Это надо исправлять».
Это мы можем сделать сейчас, убеждён Краснер. Не нужно ждать какого-то консенсуса о природе человека. Достаточно инженерного решения о том, что на критических решениях четыре условия должны обязательно соблюдаться. И это и будет реальной инженерной защитой человека.
В том же направлении – разработке некоего стандарта работы с искусственным интеллектом – предложил двигаться и Николай Григорьев. Он предложил четыре «институциональных шага».
Первое: нужна Хартия онтологического суверенитета человека в эпоху ИИ. Она должна зафиксировать перечень неотчуждаемых решений, пределы автоматизации, требования к объяснимости, пересмотру и ответственности.
Второе: нужен стандарт значимого человеческого контроля, не формального присутствия человека в контуре, а реального права понять, остановить, пересмотреть и оспорить решение.
Третье: нужна гуманитарно-технологическая оценка ИИ-систем, не только по точности, безопасности, экономическому эффекту, но и по влиянию на субъектность, достоинство, ответственность.
Четвёртое: нужен постоянный центр разработки таких стандартов с участием философов, юристов, инженеров, управленцев, представителей государства. Широкая общественность должна быть вовлечена в эти процедуры, потому что коснется это всех без исключения.
Если Россия сможет перевести свою гуманитарную традицию в стандарты, право, инженерные требования и институты, она предложит миру третий путь — технологическое развитие без капитуляции человека.
Так что, как резюмировал модератор дискуссии, старший научный сотрудник Российского НИИ культурного и природного наследия им. Д.С. Лихачёва Сергей Волобуев, союз инженерного и философского подхода — абсолютно возможен. Не надо ждать, пока философы договорятся о природе человека, потому что они никогда не договорятся полностью. Но вот уж однозначно: если общество и философы будут безразличны к проблемам человека, то тогда точно никакие инженерные решения не будут приняты. А если будет интерес, живость, если будет дискуссия, то это создаст ту атмосферу, в которой управленческие и инженерные решения смогут получить свое развитие.
Обозреватель Аналитического центра ТАСС Александр ЦЫГАНОВ