Magnifica Humanitas — энциклика его святейшества Папы Римского Льва XIV о защите человеческой личности в эпоху искусственного интеллекта, опубликованная 25 мая 2026 года. Многие видные политики и учёные успели высказаться, но, судя по некоторым из высказываний, далеко не все её прочитали.
Magnifica Humanitas — не самый простой для анализа документ (245 параграфов, 72 страницы в русском переводе), обращённый не только к верующим, но ко всему человечеству.
Цель этой сводки — выделить и структурировать идеи в области этики ИИ, обращённые к профессиональному сообществу ИИ. Сводка состоит из цитат, приводимых по русскому переводу.
Мы призваны взглянуть на великие «стройки» нашей эпохи и спросить себя: что мы строим? Сегодня, когда технологическое развитие стремительно меняет языки, отношения, институты и формы власти, мы должны и можем выбирать — ради какого замысла и в каком духе мы должны трудиться, чтобы сохранить и умножить величие человечества, полученное нами в дар. Этот выбор касается не только будущего, но и настоящего, потому что искусственный интеллект и другие новые технологии уже стали частью нашей повседневной жизни [90].
Особая ответственность лежит на тех, кто занимается исследованиями. Все причастные к этой сфере — ученые, предприниматели, инвесторы, руководители академических учреждений, политики и другие — призваны действовать открыто и ответственно, ясно сознавая широкий контекст технологических достижений, в том числе связанных с ИИ. Когда человек видит только свой участок работы, легко убедить себя, будто он выполняет нравственно нейтральную задачу, и перестать спрашивать о конечных целях, ради которых проводятся те или иные эксперименты. Возникает риск — пусть и невольный — стать пособником сомнительных проектов, способствующих новым формам насилия, манипуляции и господства [209].
Ложный реализм. Возникает тонкое искушение думать, что проблемы слишком огромны, а мы ничтожны, и наши решения ничего не могут изменить. Это вежливая форма капитуляции, которая часто выдает себя за реализм. Конечно, не у всех одинаковые возможности влиять на реальность: одни управляют, другие принимают инвестиционные решения, руководят институтами, занимаются исследованиями, воспитывают, информируют, производят; а есть и те, у кого, кажется, нет ничего, кроме их обыкновенной жизни. И всё же никто не освобожден от ответственности. У каждого есть свое поле для действия, и именно там, а не где-то еще, нужно выбирать: поддержать логику силы, пусть даже только равнодушием, цинизмом, ложью, ненавистью, или же беречь логику мира — через истину, умеренность, близость, заботу [212].
Двойственная природа технологий
На протяжении веков технологическое развитие значительно улучшало условия человеческой жизни; вместе с тем каждый новый этап прогресса обнаруживал двойственную природу этих инструментов, которые, не будучи направлены к благу, могут причинять вред [4].
Никогда еще человечество не обладало такой властью над самим собой [4].
Ядерная энергия, биотехнология, информатика, расшифровка нашей ДНК и другой полученный потенциал дают тем, кто обладает знанием — и особенно экономическим потенциалом, чтобы всем этим пользоваться, — впечатляющее господство над человеческим родом и всем миром. Технологическая власть приобретает новый, преимущественно частный облик — и именно поэтому становится еще труднее распознавать ее, управлять ею и направлять к общему благу [5].
Если (в развитии технологий) мы отдадимся воле случайных обстоятельств, то череда кризисов будет определять наш путь вместо нас [6].
Мы переживаем стремительный переход, подлинную «смену эпохи»: одни борются за будущее новых технологий, другие пытаются осмыслить их, а большинство людей выжидает, глядя на происходящее со стороны и надеясь, что всё каким-то образом сложится к лучшему. Именно поэтому перед нашей совестью встают решающие вопросы, от которых уже нельзя уклоняться: куда мы идем? К какой цели стремимся? Какой путь мы должны избрать — как человеческое сообщество и как отдельные народы? [6]
Творческий разум человека — это дар, способный облегчать страдания и открывать новые возможности, но он должен быть подчинен общему благу, справедливости, заботе о слабых и о творении. Подлинная альтернатива — не между энтузиазмом и страхом, а между двумя способами созидания: развитием, которое служит личности и народам, и развитием, которое подчиняет их логике власти [129].
Критерии и активности. Не будем поддаваться ни наивному восторгу, ни бесплодным страхам. Вместо этого укажем критерии — достоинство личности, всеобщее предназначение благ, преимущественный выбор в пользу бедных, забота об общем Доме и мир — и воплотим их на практике: ответственное проектирование, оценку человеческого и социального воздействия, интеграцию наиболее уязвимых, цифровую грамотность, исследования и производство, ориентированные на справедливость, устойчивость и мир [14].
Сама по себе технология не является ни решением человеческих проблем, ни злом; но в конкретной истории она не бывает нейтральной, потому что принимает облик тех, кто ее придумывает, оплачивает, направляет и использует [9].
Социальная Доктрина
Технологические инновации не нейтральны, в том числе искусственный интеллект. Они способны расширять участие и справедливость, но могут углублять неравенство, контроль и дискриминацию. Поэтому их нужно оценивать, задавая главный вопрос: действительно ли они помогают людям и народам возрастать в человечности и братстве, с уважением к общему Дому и к будущим поколениям? Именно здесь принципы Социальной Доктрины становятся конкретными критериями, {по которым оцениваются технологии и их применения} [85].
В энциклике Laudato si’ (2015) Папа Франциск обличал растущее господство технократической парадигмы в глобализированном мире, тенденцию позволять логике эффективности, контроля и прибыли единолично управлять личными, социальными и экономическими решениями. Становится очевидно, что техника — это не просто инструмент и что, когда она становится критерием, то в конце концов сама определяет, что важно, а что можно отбросить, сводя творение к объекту эксплуатации, а людей — к деталям механизма, который обязан становиться всё более производительным [92].
В последние годы эта парадигма распространялась всё быстрее, в частности в результате развития искусственного интеллекта, когнитивных наук, нанотехнологий, робототехники и биотехнологии. Сами по себе эти инновации могут быть важной помощью для целостного человеческого развития и заботы об общем Доме. Но именно из-за их могущества они способствуют утверждению технократической парадигмы и потому должны быть вписаны в новый духовный, этический и политический контекст. Бóльшая мощь еще не означает бóльшее благо. В этом смысле сохраняют актуальность слова Романо Гвардини (1951): «Современный человек не был воспитан для правильного пользования могуществом» [93].
Самые необычайные научные успехи, самые поразительные технические достижения, самый невиданный экономический рост, не будучи соединены с подлинным социальным и нравственным прогрессом, в конечном счете обращаются против человека (Св. Павел VI, 1970). Поэтому технический прогресс, сам по себе ценный, требует осознания стоящей за ним антропологической модели и целей, которые он преследует. Если технологическое развитие происходит без соответствующего этического и социального роста, может случиться, что средств станет больше, а человечности — нет. «Иметь больше» не значит «быть лучше». Возникает опасность того, что человеческая личность будет оцениваться главным образом по тому, что она производит [94].
Во многих случаях в цифровой среде контроль над платформами, инфраструктурами, данными и вычислительными мощностями принадлежит не государствам, а крупным экономическим и технологическим структурам, которые фактически определяют условия доступа, видимость контента и саму возможность участия. Когда власть такого масштаба сосредоточена в руках немногих людей, она легко становится непрозрачной и ускользает от контроля со стороны общества; в результате возрастает риск искаженного развития, порождающего новые виды зависимости, дискриминации, манипуляции и неравенства [95].
Основные принципы Социальной Доктрины перед лицом этой концентрации власти в цифровом мире — неотчуждаемое достоинство личности, общее благо, всеобщее предназначение благ, субсидиарность, солидарность и социальная справедливость — становятся критериями суждения и оценивания в новых ситуациях. Они требуют проверять, действительно ли власть цифровых инфраструктур и алгоритмов способствует участию и ответственности, защищает наиболее уязвимых, обеспечивает справедливый доступ к возможностям и служит общему благу. Исходя из этого, мы можем более пристально рассмотреть, что представляет собой искусственный интеллект, какие возможности он открывает и какие риски несет [96].
Фундаментальная ценность человека
Категорический императив Канта: «поступать всегда в соответствии с принципом, который в любое время мог бы стать всеобщим нравственным законом; и относиться ко всякому человеку как к цели, и никогда как к средству» [10, 30, 37, 39, 50, 51, 80, 83, 92, 114, 152, 170, 172, 180].
Стремление к увеличению прибыли не может оправдывать решения, в результате которых занятость систематически приносится в жертву: человеческая личность — это цель, а не средство, и экономический порядок должен оставаться подчиненным ее достоинству и общему благу [152].
Различные формы нестабильной занятости, фрагментации профессиональной карьеры и автоматизации должны оцениваться не только с точки зрения эффективности, но и с точки зрения достоинства работника, права на достаточное вознаграждение и реальной возможности участвовать в социальной жизни [37].
Положительный потенциал рынка и частной инициативы {раскрывается} лишь при условии, что они подчинены нравственному закону и руководствуются принципом солидарности, не принося наиболее слабых в жертву логике прибыли [39].
Когда бизнес-модели паразитируют на человеческой слабости, личность рассматривается как средство, а не как цель; те, кто проектирует или финансирует такие системы, несут нравственную ответственность, от которой невозможно уклониться [170].
Технократическое и постгуманистическое мышление склонно рассматривать человека как объект манипуляции или ресурс, который следует оптимизировать, устраняя всё, что препятствует максимальной прибыли. Это мышление, для которого важна эффективность, а не уважение к свободе и человеческому достоинству [172].
Разные сферы, которые мы рассматриваем — поиск истины в общественной жизни, воспитание в цифровой среде, преобразования в трудовых отношениях, хрупкость семьи и новые формы рабства — это не разрозненные явления. В них проявляется одна и та же истина: когда техника становится абсолютным критерием, над человеком нависает опасность превратиться в данные, винтик механизма или товар; когда же техника подчинена мудрости, она может стать возможностью роста, справедливости и братства [180].
Развитие можно назвать подлинно человеческим, когда оно ставит в центр человека, а не накопление благ, и когда оно включает в себя народы, а не только индивидов [83].
Уровень цивилизации измеряется не мощью ее средств, а тем, как она заботится о человеке и видит в нем личность, а не функцию [114].
Достоинство личности
Достоинство человека не определяется его способностями, богатством или положением, правильными или ошибочными решениями; оно предшествует всякой оценке личности и превосходит внешние обстоятельства [50].
Человек является фундаментальной ценностью, которая важнее капитала и прибыли. Человеческий труд имеет приоритет перед любой производственной или финансовой логикой, и должен достойно вознаграждаться [30].
Человек обладает исключительным и ни с чем несравнимым достоинством, а его права и обязанности являются всеобщими и неприкосновенными [51].
Труд рассматривается не только как проблема, которую нужно решать, и не только как средство получения дохода, но как основополагающее благо для личности, основа экономической деятельности и ключ ко всему социальному вопросу [37].
Развитие — как для людей, так и для наций — это одновременно задача и право: оно требует минимальных условий, позволяющих каждой личности и каждому народу возрастать сообразно их достоинству, не впадая в зависимость и не лишаясь доступа к необходимым благам [83].
Мир не сводится к отсутствию войны, но связан с целостным человеческим развитием [35].
Общее благо
Общее благо не совпадает с суммой выгоды отдельных людей и не является пересечением их частных интересов; это большее благо, которое принадлежит всем и которое можно строить, умножать и хранить только сообща [60].
Общее благо — это своего рода «избыток», который рождается из совместной жизни: из того, как разные усилия соединяются, поддерживают друг друга и создают нечто большее, чем каждый мог бы создать поодиночке [61].
Именно из стремления к общему благу рождается жизнь народа, если понимать его не как простую сумму индивидов, но как живую реальность, где люди признают, что они связаны друг с другом и вместе ответственны за общее дело [62].
Совместный труд в поисках общего блага подразумевает общий проект [62].
Очевидно, что между людьми есть много идеологических и практических различий и даже противоречий, но это не означает, что путь диалога невозможен. Диалог позволяет сформировать основу согласия, на которой можно выработать совместный проект и идти вместе [62].
Государство призвано гарантировать сплоченность, единство и справедливую организацию гражданского общества, чтобы все могли участвовать в достижении общего блага [63].
Принцип всеобщего предназначения благ прежде всего напоминает нам, что блага Земли — почва, вода, воздух, природные ресурсы — даны всей человеческой семье, чтобы они поддерживали жизнь всех людей сегодня и в будущих поколениях [65].
Сегодня к числу благ, предназначенных для всех, необходимо отнести и новые формы собственности: патенты, алгоритмы, цифровые платформы, технологические инфраструктуры, данные. Богатство наций всё больше зависит от знаний и технологий, и если эти блага остаются сосредоточенными в руках немногих, без надлежащих форм совместного использования и доступа, возникает новое неравенство, противоречащее всеобщему предназначению благ [67].
Экономическая деятельность не может разрешить все социальные проблемы, исходя из коммерческой логики. Она должна быть направлена на достижение общего блага, забота о котором ложится прежде всего на политическое сообщество [40].
Забота об общем благе неотделима от уважения права народов на существование, сохранение собственной идентичности и внесение своего неповторимого вклада в семью наций [64].
Справедливость
Справедливость требует не допускать возникновения новых форм дискриминации и ограничения свободы, когда людям и народам отказывают в доступе к базовым технологиям или затрудняют его; когда сообщества подвергаются принудительному надзору; когда социальные группы терпят ущерб от непрозрачных алгоритмов, воспроизводящих предрассудки и дискриминацию. Справедливый социальный порядок в цифровую эпоху должен гарантировать всем равный доступ к возможностям, защищать самых малых и уязвимых, противостоять ненависти и дезинформации, ставить использование данных и технологий под общественный контроль, чтобы критерием была не только прибыль, но достоинство каждой личности и благо народов [80].
Справедливость требует признания социальных прав и прав народов и включает в себя ответственность перед теми, кто придет после нас. Поэтому нельзя назвать человеческим такое развитие, которое увеличивает потребление одних, перекладывая издержки и страдание на других, или отводит целым регионам подчиненное положение, не позволяя им раскрывать собственные возможности [83].
Экономические и институциональные структуры могут быть справедливыми лишь в той мере, в которой служат целостному развитию личности и содействуют ответственному участию всех [34].
Понятие «социальной справедливости» помогает увидеть, что несправедливость возникает не только из ошибочных решений отдельных людей, но и из структур, механизмов, экономического и культурного устройства, которые почти непроизвольно воспроизводят неравенство [79].
Нельзя считать подлинным прогрессом то, что умножает благополучие одних, разрушая экосистемы, перекладывая издержки на самые уязвимые общины или подрывая условия жизни тех, кто придет после нас [84].
Субсидиарность
Принцип субсидиарности. Опасны любые виды чрезмерной концентрации власти [31]. То, что может быть осуществлено людьми, семьями, локальными сообществами и посредническими объединениями, не должно поглощаться вышестоящими инстанциями [31,68]. Государство призвано позволять им действовать свободно, насколько это возможно, не причиняя ущерба общему благу [69].
Субсидиарность не подразумевает самоустранение государства, но направляет его действие: публичное вмешательство требуется именно для того, чтобы не подавлять общественные силы, но дать им всем возможность исполнять свою миссию. Государство не подменяет их и не сводит к простым исполнителям [69].
Этот принцип побуждает к тому, чтобы в управлении общественной жизнью отказаться от всякого патернализма или «иждивенческой» модели и предлагает стиль совместной ответственности: государство ценит инициативу граждан, а гражданское общество способно создавать связи и направлять силы на служение общему благу. В логике субсидиарности решения принимаются на максимально близком к людям уровне [70].
Принцип субсидиарности приобретает особую значимость в контексте цифровой революции. Здесь вышестоящим уровнем может быть не только государство, но и всякий крупный экономический или технологический субъект, который фактически осуществляет власть над условиями общественной жизни. Такой уровень образуют компании и платформы, поглощающие компетенции, данные и способность принимать решения, определяющие условия доступа, отбор показываемого контента, формы отношений и даже экономические возможности. Субсидиарность требует, чтобы такие процессы не навязывались сверху непрозрачным и односторонним образом, но направлялись к общему благу посредством механизмов прозрачности, ответственности и реальных форм участия: независимых проверок, понятных алгоритмов, справедливого доступа к данным, инструментов обжалования [71].
Когда речь идет о решениях, касающихся экономических потоков, цифровых платформ и управления данными и алгоритмами, нельзя позволять, чтобы немногочисленные субъекты единолично направляли эти процессы; необходимо создавать формы сотрудничества, которые уважали бы различные уровни мирового сообщества и давали им возможность вместе нести ответственность за общее благо [72].
Солидарность
Солидарность понимается как конкретная совместная ответственность между людьми, народами и нациями, как форма социальной дружбы или политической любви, направленной к «цивилизации любви» [38].
Солидарность — это конкретное признание того, что судьба каждого связана с судьбой всех: действительно, «никто не спасается в одиночку» [73].
Когда субсидиарность не сопровождается солидарностью, она в конце концов превращается в простую защиту частных интересов. Когда солидарность не поддерживается субсидиарностью, она вырождается в опеку, которая не развивает ответственность [73].
Солидарность предполагает трезвый и щедрый образ жизни, способность отказаться от немедленной выгоды, чтобы открыть другим пространство будущего, готовность ставить под вопрос привычки и привилегии — в том числе связанные с цифровым потреблением и использованием технологий, — если они препятствуют другим жить достойно [75].
В мире, где связи между людьми, сообществами и нациями становятся всё более тесными, солидарность приобретает глобальное измерение. Ответственность перед будущими поколениями распространяется также на цифровые и информационные инфраструктуры: подобно природной среде, «цифровую экосистему» также можно беречь или эксплуатировать, делиться или монополизировать. Солидарность требует, чтобы решения в области данных, алгоритмов, платформ и искусственного интеллекта учитывали не только немедленную выгоду немногих, но и их воздействие на совокупность народов и на поколения, которые придут после нас [76].
Риски ИИ: война
Цифровая революция меняет грамматику конфликтов. Наряду с видимой войной возникают гибридные формы: кибератаки, манипуляция информацией, кампании влияния, автоматизация стратегических решений. ИИ входит в эти процессы как фактор ускорения — в ситуации, где многие технологии по своей природе двойственны: то, что создается для обороны, может быстро быть обращено в нападение, а граница между защитой и агрессией становится все менее четкой. ИИ может усиливать оборону и защиту мирных жителей, но может и снижать порог применения силы, делать ответственность непрозрачной, подпитывать культуру, в которой враг сводится к данным, а жертва — к «сопутствующему ущербу» [183].
Сегодня война реабилитируется как инструмент международной политики. Затяжные региональные конфликты, эскалация напряженности и взаимные угрозы становятся почти привычными; вновь возникают конфликты ради территориальной экспансии, которые уже считались преодоленными. Общественное мнение приучается к этому через нарративы агрессии и враждебности, распространяемые медиа и усиленные алгоритмами [190]. Коммуникационные сети, фрагментированная информационная среда и поощряющие конфликты алгоритмы способны усиливать ненависть и обиду, поддерживать пропаганду и затруднять взаимопонимание. Таким образом войны не только ведутся, но и культурно подготавливаются — через упрощенные объяснения, логику «друг — враг», дезинформацию и страх [192].
Частью этого сценария является непрерывное развитие систем вооружений, особенно оружия, связанного с ИИ. Возрастающая легкость, с которой могут применяться системы вооружений, обладающие оперативной автономией, «упрощает ведение войны» и снижает возможность ее контролировать. Поэтому разработка и применение ИИ в военной сфере должны быть подчинены самым строгим этическим ограничениям — с учетом неприкосновенности человеческого достоинства и святости жизни, а также отказа от гонки вооружений [197].
Не существует алгоритма, который мог бы сделать войну нравственно приемлемой. ИИ не избавляет вооруженный конфликт от присущей ему бесчеловечности: он может лишь сделать его более быстрым и безличным, снижая порог применения насилия и превращая оборону в оперативный прогноз, где жертвы сведены к данным. Таким образом он приучает нас к мысли, что насилие неизбежно и лишь нуждается в оптимизации [198].
Риски ИИ: неоколониализм
В силу неравенства, характерного для нашего мира, распространение ИИ и вычислительных систем вызывает разные последствия в разных местах. Богатое общество автоматизируется быстро и хаотично, сокращая потребность в рабочей силе, создавая пространства безработицы и институциональные напряжения. Другие обширные регионы мира, напротив, оказываются заперты в гибридных экономических системах, где низкооплачиваемый человеческий труд сосуществует с фрагментарным внедрением технологий, причем настоящие преобразования так и не происходят [153].
В наши дни колониализм обретает новое лицо. Огромные территории — особенно обладающие меньшим геополитическим значением и большей структурной уязвимостью, — сталкиваются сегодня с новыми видами хищничества: добываются потоки медицинских данных, эпидемиологические профили, генетические карты и демографическая информация. Тот, кто владеет медицинскими данными целых народов, — которые сегодня часто собираются под знаком помощи, исследований или инноваций, — в действительности получает структурный рычаг воздействия на будущее, способность формировать потребности и рынки. Именно здесь возникает один из самых насущных нравственных вопросов нашего времени: как превратить совместно накопленное знание в общее благо, а не рычаг господства; как возвратить народам не только данные, которые их описывают, но и возможность решать, как они будут использоваться, кем и для кого. В противном случае цифровая эпоха окажется не постколониальной, а именно колониальной, пусть и в иной форме [178].
Риски ИИ: обесценивание труда
Труд остается основополагающим измерением человеческого опыта: он предоставляет не только средства к существованию, но и пространство самовыражения, отношений, возможность внести вклад в жизнь сообщества. Общество, способное обеспечить работой лишь небольшую часть населения, обрекает множество других на вынужденное бездействие, отсутствие ответственности, нехватку повседневных обязательств и стимулов. Это привело бы к человеческой и культурной нищете, резко контрастирующей с высоким уровнем технического развития. В результате может возникнуть парадоксальная ситуация материального прогресса и антропологического регресса, когда исчезают условия для справедливого и устойчивого социального согласия [154].
Сегодня сочетание автоматизации, робототехники и ИИ быстро изменяет саму структуру труда. Вопреки заявленным преимуществам ИИ, современные подходы к технологии могут парадоксальным образом снижать квалификацию работников, подвергать их автоматизированному наблюдению и сводить их функции к жестким и повторяющимся задачам. Необходимость соответствовать темпу развития технологий может подорвать ощущение автономии работников и подавить их способность к инновациям, которая ожидается от них в процессе труда. Именно чтобы избежать таких тенденций, необходимо проектировать системы, ориентированные на человека, а не только на производительность [150].
Риски ИИ: несвобода
Цифровая революция влияет на человеческую свободу. Нельзя недооценивать тонкие формы зависимости, связанные с цифровой экономикой внимания, в соответствии с которой платформы и сервисы проектируются, чтобы захватывать время, внимание и взгляд пользователей, используя их уязвимость и ослабляя внутреннюю свободу. Когда бизнес-модели паразитируют на человеческой слабости, личность рассматривается как средство, а не как цель; те, кто проектирует или финансирует такие системы, несут нравственную ответственность, от которой невозможно уклониться [170].
Еще один риск, менее заметный, но не менее серьезный, — социальный контроль, ставший возможным благодаря массовому сбору данных и использованию алгоритмических систем. Когда каждый жест — перемещения, покупки, отношения, предпочтения — оставляет за собой след, возникает новая власть: возможность профилировать пользователей, предсказывать и направлять их поведение, часто без полного понимания происходящего с их стороны. Если эти данные используются для принятия решений, влияющих на реальные возможности человека, возникает опасность ущемления свободы и дискриминации наиболее уязвимых [171].
Риски ИИ: проблемы доверия
Скорость и простота, с которыми мы можем получать указания, сложные тексты и разработки, медийный контент и разные формы конкретной помощи, несомненно облегчают нашу жизнь, но могут также приучить нас к излишнему доверию и поиску готовых ответов, что ослабляет личное суждение и творческие способности [100].
Впечатление объективности, которое могут создавать ответы и предложения этих систем, может заставить нас забыть, что они отражают культурные установки тех, кто их проектировал и обучал, со всеми их достоинствами и недостатками [100, 102].
Искусственная имитация доброжелательного человеческого общения — поддержки, эмпатии, дружбы, любви — может быть приятной и даже полезной. Однако она способна ввести в заблуждение, создавая иллюзию отношений. Имитация заботы или поддержки может стать опасной, когда она попадает в среду, где не хватает подлинных отношений. Опасность заключается в том, что человек утратит само желание по-настоящему искать другого [100].
Риски ИИ: пост-правда
Всепроникающее присутствие цифровых медиа порождает культуру сиюминутности и гиперстимуляции, что усиливает усталость, скуку и нежелание прилагать усилия, необходимые для поиска истины. В эпоху, когда истина часто оказывается подчинена интересам и коммуникационным стратегиям, образование становится критически важным [139].
Мы должны учиться «поститься» от ИИ и оберегать нашу молодежь от обещаний совершенной машины, от того тонкого соблазна, который заставляет думать, будто человеческая мысль уже не нужна — именно тогда, когда она особенно необходима [140].
Родителям трудно в одиночку сопротивляться воздействию бизнес-моделей, монетизирующих внимание и время. Общество нуждается в дальновидных решениях, которые ограничивают частные интересы платформ, сосредоточенных в руках горстки людей, в особенности, когда эти интересы противоречат благу несовершеннолетних. Равно необходимо воспитывать самих детей, подростков и молодежь, чтобы те учились распознавать манипуляции, защищать собственное достоинство и уважать достоинство других в цифровой среде [142].
Этика ИИ: общие принципы
Определение ИИ, однозначное и исчерпывающее, едва ли возможно дать. Но можно утверждать одно: следует избегать ошибки, приравнивающей этот вид «интеллекта» к человеческому разуму. Эти системы имитируют некоторые функции человеческого интеллекта. При этом они нередко превосходят его по скорости и объему вычислений, что приносит конкретную пользу во многих областях. И все же эта мощь остается связанной исключительно с обработкой данных: так называемые искусственные интеллекты не проживают опыт, не обладают телом, не испытывают радость и боль, не созревают в отношениях, не знают изнутри, что значат любовь, труд, дружба, ответственность. Также они лишены нравственной совести: они не судят о добре и зле, не улавливают окончательного смысла ситуаций, не принимают на себя тяжесть последствий. Они могут имитировать языки, поведение, оценки, могут создавать видимость эмпатии или понимания, но сами не понимают того, что производят, потому что не могут жить в сфере чувств, отношений и духа, где человек обретает мудрость. Даже когда такие инструменты представляются способными «обучаться», их способ обучения отличается от человеческого. Это не опыт личности, которую формирует сама жизнь и которая со временем возрастает через выбор, ошибки, прощение, верность; напротив, это статистическая адаптация на основе данных и обратной связи, которая может быть чрезвычайно эффективной, но не предполагает внутреннего роста [99].
Невозможно считать ИИ морально нейтральным. В действительности любой технический артефакт заключает в себе определенные выборы и приоритеты: что он измеряет, что оставляет без внимания, что оптимизирует и как классифицирует людей и ситуации. Если система задумана или применяется так, что жизнь некоторых людей рассматривается как менее достойная, или если она исключает людей без возможности обжалования, она перестает быть простым инструментом, который надо лишь «правильно использовать»: она вводит критерий, заведомо противоречащий неотъемлемому достоинству человеческой личности. Поэтому этическое оценивание не может ограничиваться вопросом, используем ли мы ту или иную систему ради доброй или дурной цели; мы должны также спрашивать, как именно спроектирована эта система и какое представление о человеке и обществе заложено в данных и моделях, которыми она руководствуется [104].
Ответственность. Чтобы ИИ мог уважать человеческое достоинство и действительно служил общему благу, необходимо, чтобы на всех этапах была ясно определена ответственность: от тех, кто проектирует и обучает системы, до тех, кто ими пользуется и доверяет им принятие конкретных решений. Именно здесь решающим становится то, что мы называем «подотчетностью»: понимание того, кто именно должен «дать отчет» о принятых решениях, обосновать, проверить и, когда необходимо, оспорить эти решения и возместить причиненный ущерб [105].
Недостаточно в общих словах призывать к этичности: нужны надлежащие правовые рамки, независимый надзор, образование пользователей, а также политика, которая не отказывается от своих задач. Иначе переменами будет управлять только логика технократии, представляющая их как необходимые и неизбежные, так что в конце концов всем нам будут навязаны правила, продиктованные теми, кто владеет данными, инфраструктурами и вычислительными мощностями [106].
ИИ усиливает власть тех, кто уже располагает экономическими ресурсами, компетенциями и доступом к данным. Небольшие, но очень влиятельные группы могут направлять информационные потоки и потребление, воздействовать на демократические процессы и использовать экономические механизмы в своих интересах, что противоречит социальной справедливости и солидарности между народами. Поэтому необходимо, чтобы применение ИИ — особенно там, где оно затрагивает общее благо и основные права, — сопровождалось ясными критериями и действенными механизмами контроля, основанными на участии и субсидиарности. Локальные сообщества и посреднические объединения не могут быть сведены к роли пассивных получателей решений, принятых где-то в другом месте; они должны иметь возможность участвовать в оценивании и надзоре. Кроме того, управление данными не может быть отдано исключительно частным субъектам: эта сфера нуждается в регулировании. Данные — это плод труда множества людей, и они не могут быть проданы или переданы в распоряжение меньшинства [108].
В мире, где данные, вычислительный капитал и способность устанавливать нормы сосредоточены в руках небольшой группы людей,
— говорить об общем благе значит разоблачать эту новую асимметрию — эпистемическую, экономическую и политическую — и называть своим именем новые монополии ИИ;
— говорить о всеобщем предназначении благ значит искать способы обеспечить всеобщий доступ к технологиям и образованию;
— говорить о субсидиарности значит защищать право сообществ участвовать в определении и изменении правил, не сводя их участие к надзору после того, как стандарты уже написаны кем-то другим;
— говорить о солидарности значит признавать, что алгоритмические модели питаются человеческим трудом, который часто остается невидимым и становится предметом эксплуатации;
— говорить о справедливости значит ставить вопрос о географии власти, которая определяет, кто может обучать модели, а кто сам становится лишь объектом обучения; это значит признавать, что социальная справедливость — это не только цель, которую следует защищать уже после внедрения технологий, но и предварительное условие, которое должно исполняться уже на этапе разработки [109].
Разоружить ИИ — значит изъять его из логики вооруженного соперничества, которое сегодня является уже не только сугубо военным, но и экономическим и когнитивным. Мы наблюдаем погоню за самым производительным алгоритмом и самой обширной базой данных, цель которой — закрепить геополитическое или коммерческое превосходство над остальными. Разоружить — значит разорвать отождествление технической мощи с правом управлять. Разоружить — не значит отказаться от технологии; это значит не позволить ей господствовать над человеком. Это значит вывести ее из-под власти монополий, дать обществу возможность обсуждать и оспаривать ее применение, а значит — сделать ее пространством, пригодным для человеческого обитания; вернуть технологию на службу многообразию человеческой культуры и устройства жизни [110].
Особая этическая и духовная ответственность лежит на разработчиках ИИ, поскольку любое проектное решение отражает определенное видение человечества. Как автор художественного или литературного произведения обязан задумываться о ценностях, которые оно выражает, так и разработчики призваны со всей серьезностью относиться к ценностям, которые они вкладывают в свои проекты: действовать прозрачно, с ответственностью перед сообществами, чьих интересов это касается, и внимательно проверять, действительно ли то, что они «выращивают», является благом [111].
Этика ИИ в массовой коммуникации
Дезинформация и фактическая истина. Использование цифровых платформ и систем ИИ вызывает глубокие изменения в общественной и политической коммуникации. Инструменты, которые могли бы использоваться для диалога и участия, часто применяются для создания искаженных нарративов, размывающих границы между истиной и ложью и смешивающих факты и мнения. Дезинформация возникла задолго до ИИ, но благодаря ему ее масштабы сегодня выросли многократно. В результате манипуляции контентом, изображениями и видеоматериалами люди становятся жертвами односторонних или ложных представлений о реальности. Качество общественных коммуникаций напрямую зависит от уровня социального доверия и в свою очередь влияет на него. Действительно, достоверная информация возникает не в результате централизованного или автоматизированного контроля. В публичном дискурсе фактическая истина имеет рациональное измерение, поскольку требует верификации, сверки источников и ответственной аргументации; но еще в большей степени она зависит от отношений: она складывается благодаря узам доверия и общим делам, в честном взаимодействии с другими людьми и с реальностью. Только совместный поиск фактической истины, воспринимаемой как общее благо, может стать основанием справедливой коммуникации [132].
Коллективное воображение. Содержание, распространяющееся в цифровой среде, влияет на то, как люди воспринимают мир, и внедряет в коллективное сознание образы и повествования, которые направляют желания и воздействуют на повседневный выбор [135]. Поэтому тот, кто контролирует цифровые платформы и средства коммуникации, обладает чрезвычайной способностью воздействовать на коллективное воображение и выдавать определенное видение реальности как норму или образец для подражания. Такая власть должна постоянно направляться поиском истины и уважением к человеческому достоинству, чтобы рождающаяся в сети культура не становилась инструментом чрезмерного отвлечения внимания, унификации и господства, но помогала созревать внутренней свободе и критическому мышлению [136].
Истина — это общее благо, а не собственность власть имущих и не фикция. Первая задача, которая стоит перед нами, — не демонизировать и не обожествлять инструменты, а управлять ими, исходя из этого твердого принципа. Необходимо развивать экологию коммуникации. На уровне публичного регулирования это означает установление норм, которые делают более прозрачной логику того, каким образом отбирается и продвигается определенный контент, и защищают персональные данные [137].
Строить цивилизацию любви
Цивилизация любви — не наивная утопия, а насущно необходимый проект. Он заключается в том, чтобы воплощать любовь и братство в структурах справедливости и социальных институтах, и видеть в другом — будь то отдельный человек или народ — необходимого союзника в созидании общего блага [186]. Недостаточно, чтобы ИИ делал нас более эффективными или более связанными друг с другом; он должен служить созиданию общей человеческой семьи, с общими правами и обязанностями, где цифровая близость становится реальной возможностью встречи и взаимной заботы [187].
Цивилизация любви рождается не из одного эффектного жеста, а из малой, но постоянной верности, которая сопротивляется расчеловечиванию. Поэтому нужно остановиться и посмотреть на то, каким образом каждый из нас на своем месте может участвовать в созидании цивилизации любви. Не претендуя на то, чтобы исчерпать эту тему, я предлагаю способы проявить свою ответственность в повседневной и общественной жизни: разоружить слова, созидать мир в справедливости, смотреть глазами жертв, взращивать здравый реализм, возобновить диалог, и заново осознать необходимость дипломатии и многостороннего сотрудничества [213].
Разоружить слова. Всем нам необходимо провести испытание совести и спросить себя: какими словами мы пользуемся, какие предрассудки в них отражены, и сколько в них враждебности, скрытой или явной. Все мы можем содействовать добру всякий раз, когда говорим правду, даем мудрый совет, поддерживаем того, кто нуждается в утешении, обличаем несправедливость, даем голос тому, кто его лишен [214].
Взращивать здравый реализм. Есть нездоровый реализм, подменяющий признание фактов покорностью перед ними: «раз господствует сила, значит так тому и быть». Но подлинный реализм не отказывается от намерения изменить мир: он начинается с ясного понимания интересов, опасений, ограничений и соотношения сил, чтобы понять, что именно достижимо и каким образом. Он не сводит политику к морализаторству, но и не оставляет ее на произвол насилия. Он ищет практические пути к достижению мира не только на словах, но посредством надежных институтов, проверяемых гарантий, терпеливых переговоров, предотвращения конфликтов и защиты гражданского населения [218].
Возобновить диалог. Чтобы созидать цивилизацию любви, необходимо упражняться в диалоге. Диалог — это главный инструмент совместной жизни людей и народов и альтернатива открытому конфликту [219]. Необходимо учиться строить братские связи — слушая, честно глядя друг на друга, посвящая время другому, иногда даже «теряя время» вместе. Потому что, когда мы переживаем подлинную встречу с другим — иным, чужестранцем, мигрантом, — война становится невообразимой [220].
Необходимость дипломатии. Киберпространство также стало полем противостояния: кибератаки, манипуляция данными, информационные кампании, организованные с помощью ИИ, могут дестабилизировать целые страны еще прежде открытого вооруженного столкновения. Кроме того, в этой сфере часто трудно установить ответственность: когда нет ясности, кто нанес удар, возрастает риск несоразмерных реакций, ошибок в оценке ситуации и спирали эскалации. Поэтому нужна дипломатия, способная действовать в этой новой среде: договариваться об общих правилах использования цифровых технологий, защищать гражданских лиц и тех, кто наиболее уязвим перед этими формами насилия — невидимыми, но от этого не менее реальными [225].
Определять критерии
Недостаточно в общих словах апеллировать к этике: необходимо указать точные критерии. Первый критерий касается личной ответственности. Когда решение автоматизируется или становится непрозрачным, есть опасность, что в результате исчезнет и ответственность. Поэтому цепочка ответственности должна оставаться прозрачной и проверяемой: те, кто проектирует, обучает, разрешает и применяет, должны быть готовы дать отчет в своих решениях. Второй критерий касается времени, необходимого для нравственного суждения. ИИ стремится сжимать время принятия решений; но когда принимаются необратимые решения, скорость и эффективность не могут быть главными критериями [199].
В эпоху ИИ и робототехники уже невозможно полагаться только на «невидимую руку» рынка: задача политики — направлять экономические и технологические процессы к общему благу, содействуя достойному труду, социальной включенности и справедливому распределению благ инновации [163].
На практике, в эпоху ИИ и роботизации, забота о том, чтобы экономика служила человеческому достоинству, требует определенных критериев для решительных и последовательных действий. Во-первых — это прозрачность и ответственность: когда данные и алгоритмы влияют на выдачу кредита, отбор персонала, доступ к услугам или возможностям, нужно, чтобы решения были понятными и подлежащими оспариванию и контролю, чтобы человек не был сведен к набору данных. Во-вторых — это участие и доступ: инновации должны сопровождаться инвестициями в компетенции, инфраструктуру и необходимые услуги, чтобы технология не увеличивала разрыв между теми, у кого есть доступ к возможностям, и теми, кто его лишен. Наконец — меры справедливости: налогообложение, социальная защита и промышленная политика должны исправлять неравенство, создаваемое концентрацией богатства и власти. Эти критерии не тормозят инновации; в действительности они делают их пригодными для человеческой жизни и по-настоящему человечными [164].
Недостаточно реагировать, когда рабочие места уже исчезают; необходимо заранее управлять преобразованиями. Одно из возможных решений заключается в установлении социальных критериев инновации: любое внедрение автоматизации и ИИ должно сопровождаться проверяемыми мерами защиты занятости, переквалификации и участия работников, чтобы технология была направлена на высвобождение времени и способностей человека, а не на производство новых отверженных [156].
Предпринимательство может быть благородным призванием, способным производить богатство и улучшать жизнь всех, если при этом признается, что создание достойных рабочих мест и поддержка труда, имеющего подлинную ценность, — это важная часть служения обществу, а не переменная, зависящая только от прибыли [157].
Нужна такая ответственность бизнеса, которая включает в число показателей успеха качество и достоинство труда. В противном случае инновации становятся ускорителями несправедливости. Необходима активная политика, способная сделать непрерывное образование и смену профессии доступными для всех, не перекладывая всю цену адаптации на отдельных людей [156].
Определять ответственность
Исключительно важно при программировании создаваемых нами искусственных систем закладывать в них ценности и благоразумное суждение. Благодаря этому они будут способствовать созданию такой нравственной экологии, в рамках которой люди смогут руководствоваться совестью, а модели ИИ — устанавливать надлежащие границы [198].
В отношении любой системы, применяемой в военной сфере, должна быть гарантирована возможность отследить и восстановить ход принятия решений, чтобы ответственность и возможную вину нельзя было «возложить на машину». Решение применить летальную силу не может передаваться непрозрачным или автоматизированным процессам; оно должно оставаться под действенным, сознательным и ответственным человеческим контролем. Наконец, необходимо установить, в том числе на международном уровне, общие правила, которые сдерживали бы гонку технологических вооружений и обеспечивали особую защиту гражданским лицам и инфраструктурам, необходимым для их выживания [200].
Воспитывать
С точки зрения школы и семьи назрела потребность в новых воспитательных подходах и формировании навыков правильного и критического пользования цифровыми инструментами, ИИ, платформами для покупок и инвестиций. С точки зрения высшего образования необходимо целостное знание — способность связывать воедино сведения из разных областей, чтобы понимать сложность реальности и развивать навыки проверки фактов [137].
Школа призвана не гнаться за скоростью цифрового мира, а предлагать то, что цифровая среда сама по себе дать не может: это время, которое мы разделяем с другими, чтобы учиться и строить надежные отношения [147].
Воспитывать в новых поколениях убеждение, что технологии развиваются не по неизбежной траектории, но могут направляться личной и общей ответственностью, — вот одно из самых ценных служений общему благу [238].
Сверяться с этическими критериями. Любой технический или экономический выбор требует проверки того, способствуют ли достижения ИИ справедливости и участию, или же концентрируют богатство и власть в руках меньшинства. Важно честно смотреть на цепочки цифрового производства, на условия труда, скрытые за нашими устройствами, на механизмы, извлекающие выгоду из манипуляции и войн, и одновременно искать практические пути развития справедливости, участия и заботы о творении [240].
Быть не тем, кто безучастно наблюдает за социальными и культурными разломами или рассуждает об упадке, а тем, кто готов трудиться на стройках истории — исследовательских лабораториях, технологических предприятиях, школах, медиа, институтах, местных сообществах, — чтобы восстановить то, что рухнуло, и защитить то, что подвергается опасности [241].