Папа Римский призвал к жесткому регулированию ИИ
Папа Лев XIV выпустил свою первую энциклику «Magnifica Humanitas» ("Великолепное человечество"), посвященную рискам искусственного интеллекта. Понтифик назвал технологию главным вызовом для человечества и призвал разработчиков ставить во главу угла общее благо, а не погоню за прибылью.
В документе папа жестко раскритиковал «культуру власти» в IT-секторе. Он подчеркнул, что нельзя доверять ИИ принятие необратимых и летальных решений, особенно в военной сфере. По его мнению, автоматизация войны делает насилие обыденным, а существующие критерии «справедливой войны» безнадежно устарели.
Издание Vatican News приводит выдержки из неё:
- Технологии не должны находиться в руках немногих, увеличивая разрыв между теми, кто включен в цифровую революцию, и теми, кто исключен из нее. В цифровую эпоху социальная справедливость требует обеспечения справедливого доступа к возможностям для всех людей, защиты наиболее уязвимых, борьбы с ненавистью и дезинформацией, а также подчинения использования технологий общественному контролю, "чтобы руководящим принципом была не только прибыль, но и достоинство каждого человека и общее благо всех людей".
- ИИ необходимо разоружить, освободить его от менталитета военной и экономической конкуренции: "Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление.
- ИИ порождает новые формы рабства, в том числе на добыче редкоземельных элементов, необходимых для технологий. Важно бороться с новыми формами рабства.
Компания Palantir уже активно применяет ИИ в военных целях.
Лев XIV настаивает на создании независимых механизмов надзора и правовых рамок. Он уверен: одной только этики недостаточно, когда судьбу технологий решают лишь несколько корпораций. Папа призвал политиков и разработчиков замедлить гонку вооружений и технологий, чтобы поставить прогресс на службу достоинству человека.
Если уж папа римский озаботился использованием ИИ, ситуация очень опасная. Фильм «Матрица» вскоре может стать реальностью.
