11 сентября 2024 года в Санкт-Петербурге в конце встречи Святейшего Патриарха Московского и всея Руси Кирилла с участниками X Санкт-Петербургского международного форума объединенных культур «Культура XXI века" он ответил на несколько вопросов от участников форума. Трансляция шла по телеканалу "Спас ТВ".
На встрече прозвучал вопрос: "Какие риски несет в себе искусственный интеллект для духовного развития человечества?"
По мнению Патриарха, тема Искусственного интеллекта (ИИ) пока не совсем понятная и осознанная. Есть в кинематографе разные "страшилки", когда ИИ берет власть над людьми и борется с ними (кстати, не только в кинематографе, но и в фантастической литературе). Но само понятие "заставляет задуматься о многих возможных последствиях применения этого инструмента".
Хочу обратить внимание на формулировку "применение инструмента". Т.е. на сегодня это пока инструмент людей, причем реальный и приносящий определенную пользу. Но какие могут быть опасности далее и при каких условиях это дитя технического прогресса может принести вред всему человечеству? Давайте послушаем, что сказал Патриарх Кирилл:
Господь дал человеку разум, но если бы только разум, то мы мало чем отличались бы от искусственного интеллекта. Однако Господь дал человеку еще и свободную волю, и чувства, чего интеллект искусственный лишен. При этом перспектива такова, что развитие искусственного интеллекта поставит человеческий разум как бы в подчиненное положение, потому что конкурировать с искусственным интеллектом будет невозможно.
Обращаю внимание на фразу "поставит человеческий разум как бы в подчиненное положение". Люди, ученые, инженеры, программисты не должны допустить, чтобы из мощного инструмента поддержки людей ИИ превратился в творца себе подобных. Нельзя выпускать его развитие из подчинения человеку.
В вычислительных процессах человек не может сравниться по своим возможностям с искусственным интеллектом, и внедрение искусственного интеллекта может привести к колоссальному технологическому прорыву, к созданию таких машин и механизмов, которые мы сейчас и представить себе не можем. Все это может служить человеку и его благу, а может, как атомная бомба, служить и против человека и нести колоссальную угрозу.
Далее Кирилл сказал в качестве вывода:
А вывод заключается в том, что человек должен становиться лучше — нравственно, духовно. Если прогресса не будет на этом уровне человеческого бытия, то мы проиграем и битву с искусственным интеллектом, и многие другие битвы. Поэтому могу крикнуть на весь мир: если человечество хочет быть счастливым, оно должно быть религиозным. Как у Достоевского? Если Бога нет, то все дозволено. Если человечество теряет религиозную веру, особенно в условиях нарастания технологий, связанных с появлением искусственного интеллекта, то мы действительно входим в эпоху апокалипсиса.
Если еще более коротко, то все на сегодня зависит от самого человечества, все в наших руках, будет ли дальше существовать наша цивилизация ил сами себя угробим. Продолжу цитатой Патриарха Кирилла:
Жизнь человека в условиях научного, технологического развития, особенно такого, о каком Вы сказали, может быть обеспечена только при соответствующем возрастании роли веры и религии, и человек в таком случае сможет правильно программировать искусственный интеллект. Другого выхода нет.
Что имеем на сегодня
Сегодня ИИ - это реальность, приносящая пользу людям. Сам не раз пользовался этими сервисами (программами), например, для удаления фона на картинках или фото, для генерации новых картинок или уникальной музыки.
В прошлом веке появилось понятие АСУ - автоматизированные системы управления. Применялись вначале для сферы производства и логистики. Далее АСУ внедрялись в управление различного вида вооружений. Сегодня уже имеется оружие и системы с элементами ИИ, например, интеллектуальные беспилотные самолеты и ракеты, принимающие решения по навигации в зависимости от внешних условий, и т.п. Беспилотные автомобили - это уже реальность.
Прогресс не остановить (кстати, технический прогресс поддерживает церковь). Но чтобы выжить в будущем, люди не должны забывать о моральных принципах.
Вспомнились романы американского писателя фантаста Айзека Азимова, многие из которых посвящены человекоподобным роботам. При программировании этих роботов ученые использовали так наз. "законы робототехники" (вроде бы, три основных закона). Главный их смысл - запрет на любые действия, которые могут навредить людям.
Но ведь были в романах фантастов у роботов сбои, как бывают и у любой сложной цифровой техники сегодня! По моему, прежде чем оснащать механизмы с ИИ исполнительными приводами, нужно очень хорошо подумать и все взвесить. И важно, какие люди будут создать и программировать устройства с встроенным ИИ. Тема не простая, но все пока в руках человечества. Морально здоровая цивилизация имеет шансы на долгую и счастливую жизнь даже при расширении применения Искусственного интеллекта (нейросетей).
