Папа Лев XIV написал энциклику про ИИ
Сцена: 25 мая, Ватикан. На презентации первой в истории папской энциклики целиком про искусственный интеллект сидит сооснователь Anthropic. Главная мировая религия и одна из лабораторий, которая этот самый ИИ и создаёт, на одной сцене обсуждают что-то вслух.
Документ называется «Magnifica Humanitas», «Великолепное человечество». Подписан 15 мая, ровно через 135 лет после Rerum Novarum Льва XIII, энциклики 1891 года про права рабочих в индустриальную революцию. Параллель прямая. ИИ это новая индустриальная революция, и Церковь занимает в ней ту же позицию, что и тогда. На стороне человека.
О чём текст
ИИ объявлен главным вызовом человечеству. Папа призывает его «разоружить», то есть выйти из логики гонки вооружений и борьбы за мировое господство. Передавать машине необратимые решения о жизни и смерти, по его словам, «недопустимо». Старая доктрина справедливой войны больше не работает, потому что войну в полной мере уже ведут не люди.
Этики самой по себе мало. Нужны законы, независимый надзор, политики, готовые брать ответственность, а не прятаться за бизнесом. Концентрация вычислений и данных у пяти компаний названа угрозой, особенно для детей и слабых. Отдельно про труд. Прибыль не оправдывает массовое уничтожение рабочих мест. Человек это цель, а не средство.
Самый неожиданный пассаж ближе к концу. ИИ, пишет Папа, лишён эмоций, отношений и духовного измерения. Он умеет имитировать понимание, но не понимает того, что производит. Он не растёт через выбор, ошибку, прощение и верность. Это статистика, обученная на наших текстах, а не личность с внутренней жизнью.
Что про это думаю
Папа сказал по существу то, о чем обычно молчат политики. Концентрация вычислений у пяти корпораций это реальный риск, а не моральная абстракция. Запрет давать машине право решать, кого убивать, это позиция, которую вслух не поддержит ни одна крупная держава, но с которой про себя согласны все, кто видит, куда движется автоматизация ударов.
«Разоружение ИИ» как лозунг звучит красиво и утопично. В гонке между OpenAI, Anthropic и китайскими лабораториями никто не тормозит по моральным соображениям. Работает другое. Внешний контроль и точечное регулирование. И тут Папа прав на сто процентов.
Самое интересное это присутствие Anthropic в Ватикане. Сама лаборатория из первой пятёрки публично говорит, что развитие ИИ нельзя оставлять только компаниям-разработчикам. Это не пиар. Это попытка переложить часть ответственности наружу. Если твой продукт реально способен вытеснить миллионы рабочих мест, лучше заранее получить моральный мандат от того, кто старше тебя на две тысячи лет.
Про «отсутствие духовной перспективы» спорить не буду. Но этот вопрос ещё придётся открывать заново. Поговорим лет через десять.
Прочитать полный текст- https://www.dailysabah.com/business/tech/pope-calls-for-disarming-of-ai-robust-regulation-in-major-manifesto/amp
