Одно из самых серьезных испытаний современности — так называемый технологический прорыв, который, принося многие блага, одновременно порождает и новые опасности. Мы еще до конца не осознаем опасность бесконтрольного развития искусственного интеллекта. Некоторые отмахиваются — мол, меня это не касается. Но это апокалиптическая тема, потому что искусственный интеллект будет непременно сильнее интеллекта человеческого. Если он будет создан, он будет сам себя воспроизводить, и эта машина будет сильнее, чем человеческий мозг. Появление искусственного интеллекта, который способен заменить человеческий интеллект, человеческую душу, человеческую совесть, человеческую нравственность, думаю, станет самым опасным моментом в развитии цивилизации, которая непременно устремится к концу своего существования. А вмешательство в генетический код, с тем чтобы «подправить» генетику, то есть запрограммировать человека? Раньше только в страшных фантазиях такие идеи возникали, а сейчас мы накануне возможного
Одно из самых серьезных испытаний современности — так называемый технологический прорыв, который, принося многие блага, одновременно порождает и новые опасности. Мы еще до конца не осознаем опасность бесконтрольного развития искусственного интеллекта. Некоторые отмахиваются — мол, меня это не касается. Но это апокалиптическая тема, потому что искусственный интеллект будет непременно сильнее интеллекта человеческого. Если он будет создан, он будет сам себя воспроизводить, и эта машина будет сильнее, чем человеческий мозг. Появление искусственного интеллекта, который способен заменить человеческий интеллект, человеческую душу, человеческую совесть, человеческую нравственность, думаю, станет самым опасным моментом в развитии цивилизации, которая непременно устремится к концу своего существования.
А вмешательство в генетический код, с тем чтобы «подправить» генетику, то есть запрограммировать человека? Раньше только в страшных фантазиях такие идеи возникали, а сейчас мы накануне возможного вторжения в геном человека. Все это грозит поколебать Богом установленные основы человеческого бытия, попрать дарованную Богом свободу и, конечно, умалить достоинство личности, низвергнуть нравственные идеалы, которые хранились веками, в том числе и нашим народом.
Какие нравственные идеалы у искусственного интеллекта? Он будет исключительно рационально выстраивать программу своих действий. Нравственность будет находиться вне искусственного интеллекта — это всем нам нужно очень ясно понимать. Ведь это интеллект, а не душа, а нравственность — измерение духовное. Никакого духовного измерения в искусственном интеллекте не будет — только рациональное начало.
Конечно, Церковь не может оставаться безразличной к этому глобальному процессу. Напротив, наш долг — стать деятельными участниками общественного обсуждения, неизменно свидетельствуя миру о богозаповеданном нравственном законе. Я уже сказал и еще раз повторяю: никакого нравственного закона в мире искусственного интеллекта не будет, а это самое страшное, что можно себе представить. Ум есть, а совести нет. Что происходило, когда приходили к власти страшные люди, у которых был ум, а совести не было? Наверное, самое страшное обвинение, которое один человек может бросить другому: «ты бессовестный». Ведь если бессовестный, то это уже не человек. Ну, а если искусственный интеллект будет развиваться — а он будет развиваться — и постепенно вытеснять по целому ряду позиций человеческий интеллект, то мы столкнемся с очень опасной апокалиптической перспективой потери различия между добром и злом.
Наша задача — способствовать тому, чтобы технологии оставались слугами человека, а не превращались в его безжалостных господ, способных низвести человека до уровня управляемого объекта, о чем я только что сказал, лишенного нравственного выбора и духовного стержня. Это вопрос не только личного спасения, но и духовной безопасности и цивилизационного суверенитета нашего народа и нашего Отечества. Конечно, это касается всего человеческого рода, но мы должны в первую очередь подумать о себе. Мы не можем допустить, чтобы сознание нашей детей, наша культура и сама идентичность формировались бездушными цифровыми системами или в угоду интересам, которые чужды священным для нас традициям. Современное пастырское попечение должно включать в себя и разъяснение сути этих угроз, и воспитание в обществе ответственного взгляда на будущее. Мы обязаны защищать богоданное право каждого человека оставаться свободной личностью, чадом Божиим, а не управляемым элементом новой технократической системы.
Из Доклада Святейшего Патриарха Кирилла на собрании духовенства Московской митрополии.