Предостережение насчет нейросетей от иерея Георгия Максимова.
Недавно я высказал опасение, что в будущем некоторые люди могут попытаться строить представление о христианской вере, основываясь на ответах нейросетей, возможно, даже свою духовную жизнь станут сверять с искусственным интеллектом.
Но я не ожидал, что это начнётся так быстро. Уже сейчас встречаю людей, считающих себя православными (с кем-то говорил лично, с кем-то переписывался), которые апеллируют к знаниям о христианстве, полученным от нейросетей. Причём ссылаются на эти ответы как на абсолютную истину.
Меня поразило, что они ссылаются на нейросети так, как должны ссылаться на Вселенские соборы или на святых отцов. Некоторые даже заявляли: «Я спрашивал у нейросети, она говорит так, а вы иначе». Значит, я, живой священник, кандидат богословия, ошибаюсь, потому что противоречу тому, что говорит нейросеть.
Конечно, меня это очень удивляет. Я и сам обращаюсь к нейросетям, знакомлюсь с тем, что они могут делать, и поэтому я отчасти понимаю такой восторг перед нейросетями, потому что тексты, которые они выдают, выглядят достаточно связными и даже убедительными.
Я специально тестировал ChatGPT и новую китайскую нейросеть DeepSeek, задавал вопросы о Священном Писании, богословских темах, непосредственно касающихся православия. Я обратил внимание, что, если ChatGPT обычно отвечает своими словами, грубо говоря, а DeepSeek ставит ссылки, то есть выдает текст, который можно прямо сейчас отправить в качестве статьи на православный сайт или в сообщество православное или даже отнести в качестве курсовой работы.
Приводятся цитаты, указываются источники цитаты из Священного Писания и из других христианских текстов, но когда я пошел проверять, я обнаружил, что это ложные цитаты.
Например, DeepSeek выдаёт «Книга Левит, 8 главу, такой-то стих», я иду проверять и вижу, что в указанном месте не было ничего даже близкого к тому, что говорит нейросеть.
Также она приводила конкретные указания: «Смотри, в акафисте Пресвятой Богородицы, икос 1 написано это» — но там таких слов нет. Иногда нейросеть приводит цитаты, которые выглядят как православные молитвы. Но я знаю эту молитву, я знаю, что там нет этих слов.
И, конечно, я хотел обратить на это внимание. Это не в укор нейросетям, потому что они и не позиционируют себя как истину в последней инстанции. Она имитирует текст человека. В частности, понимает, что христиане вставляют библейские цитаты, сноски указания на места в Библии. Значит, если тема христианская, нужно тоже в качестве подражания указывать какие-то рандомные ссылки. Именно это и происходит – она указывает рандомные ссылки, я это проверял.
Поэтому опираться на то, что выдает, что генерирует нейросеть, для того чтобы узнавать о православной вере, это самое безумное, что может прийти в голову. Есть источники нашей веры, которые не являются чем-то скрытым, — это Священное Писание. Благодаря интернету это все очень доступно, очень легко найти.
И, собственно говоря, представление о том, что нейросеть, оно тебе даст готовый ответ, но отчасти связано с ленью самостоятельно искать. А отчасти связано с таким убеждением. Один из моих собеседников так мне и говорил, что священники – это люди, у них есть какие-то личные пристрастия по каким-то вопросам, а нейросеть выдает, так сказать, усредненный ответ, бесстрастный и поэтому объективный.
Все, что делает нейросеть, все что она говорит, она говорит, основываясь на том, что написали уже люди. А люди написали очень много всякой чуши, очень много неверных вещей. При этом нейросеть, насколько я понимаю, ориентируется на большинство из того, написано. Большинство – это далеко не всегда правда.
Поэтому еще раз хочу предупредить, что не стоит заигрывать с такими вещами и делать китайскую или американскую нейросеть для себя чем-то вроде Вселенского собора или святого отца. Есть у нас настоящие Вселенские соборы, настоящие святые отцы, пойди почитай катехизис хотя бы, открой его, узнай во что верит на самом деле Православная Церковь. Это несложно.
Конечно, это требует больше усилий, но, как Господь сказал, именно употребляющие усилия смогут войти в Царствие Божие.
Текст основан на видео с канала «Иерей Георгий Максимов». Читайте ещё: