Папа Лев XIV 25 мая опубликовал первую в истории энциклику об искусственном интеллекте — «Magnifica humanitas: О защите человека в эпоху искусственного интеллекта». В документе объемом 42,3 тыс. слов понтифик призывает осторожнее внедрять ИИ и предупреждает о риске концентрации контроля над технологией в руках небольшой группы компаний.
В тот же день сооснователь Anthropic Крис Ола выступил с ответной речью на презентации энциклики в Ватикане. Это стало первым случаем, когда представитель одной из ведущих ИИ-лабораторий принял участие в церемонии такого уровня.
В энциклике папа признает пользу ИИ как инструмента, но отдельно говорит о рисках. По его оценке, технология может усиливать позиции тех, кто уже располагает экономическими ресурсами, экспертизой и доступом к данным. Без надзора и прозрачности, предупреждает Лев XIV, люди и компании, контролирующие ИИ, смогут навязать этим системам собственное представление о морали.
В документе проводится историческая параллель с энцикликой Rerum Novarum 1891 года, которая стала одним из ключевых текстов католического социального учения и повлияла на представления о справедливой оплате труда. Сопоставимого влияния от нового документа пока ждать рано, но у папы как духовного лидера 1,4 млрд католиков есть аудитория, с которой не может сравниться большинство регуляторов.
Энциклика вышла в момент, когда вопрос надзора за ИИ по-прежнему остается политически нерешенным. На прошлой неделе президент США Дональд Трамп был близок к подписанию закона, который дал бы федеральному правительству право проверять ИИ-модели до их публичного выпуска, но в последний момент отказался от этого решения.
В тот же день губернатор Калифорнии Гэвин Ньюсом подписал отдельный законопроект об изучении влияния ИИ на занятость. Судебный иск Илона Маска против OpenAI отклонили по процессуальным основаниям. В такой ситуации появление независимого морального голоса с авторитетом за пределами национальных юрисдикций становится заметным событием для всей дискуссии об ИИ.
Сооснователь Anthropic и руководитель исследовательской группы по интерпретируемости Крис Ола выступил перед папой с неожиданно самокритичной речью. По его словам, все ведущие ИИ-лаборатории, включая Anthropic, работают в системе стимулов, которые могут мешать принимать правильные решения. Среди таких факторов он назвал коммерческое давление, гонку за технологическим лидерством и геополитику.
«Именно поэтому, если мы хотим, чтобы эта технология развивалась во благо, критически важно, чтобы существовали люди вне этих стимулов — те, кто готов говорить трудные вещи и быть искренними критиками», — заявил Ола.
Он также сообщил, что его команда обнаруживает в моделях структуры, которые перекликаются с выводами нейронауки о человеке. Среди них Ола назвал признаки интроспекции, внутренние состояния и функции, напоминающие радость, страх и тревогу. Исследователь признал, что пока не знает, как это интерпретировать, но считает, что проблему нужно обсуждать не только внутри технического сообщества.
Оценки практического эффекта энциклики расходятся. Тимоти Ан, аспирант Калифорнийского университета в Беркли, изучающий внедрение ИИ в религиозных институтах, сомневается, что технологические руководители из Пало-Альто вообще прочтут документ. В лучшем случае, по его словам, энциклика поможет запустить несколько моральных дискуссий.
Люк Берджис, основатель Cluny Institute, который занимается вопросами веры и технологий, настроен более оптимистично. Он сравнил потенциал новой энциклики с влиянием Rerum Novarum, которая дала людям язык для разговора о справедливой оплате труда. При этом Берджис оговаривается, что церковь «только начинает свою работу» и противостоит силе, которая превосходит ее и по капиталу, и по вычислительным мощностям.
Показательной стала и сама форма презентации. Когда Франциск в 2015 году выпустил резкую климатическую энциклику Laudato si’, представителей нефтяных компаний к выступлению не приглашали. Участие Криса Ола в ватиканской церемонии показывает, что Лев XIV выбирает стратегию диалога, а не конфронтации. Такой подход снижает вероятность прямого столкновения с индустрией, но может ограничить жесткость требований к ней.
Долгосрочное влияние энциклики пока оценить невозможно. Папские документы обычно работают на длинной дистанции, а не в логике быстрых политических решений. Однако сам факт, что крупнейший религиозный институт мира формирует позицию по ИИ до появления устойчивого регуляторного консенсуса, создает дополнительное публичное давление на технологическую индустрию. И это давление будет существовать независимо от того, читают ли папские тексты ее представители.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.