Мы живем в эпоху цифровой революции, которую совершили генеративные нейросети. Искусственный интеллект (ИИ) прочно входит в жизнь россиян, и православные христиане не исключение. Постепенно ИИ меняет нашу реальность. Давайте разбираться, каким образом и каков характер этих изменений.
Семейная нейросеть
Сегодня священники смело создают тезисы для своих проповедей с помощью искусственного интеллекта. Миряне генерируют идеи для контента православных пабликов, а также создают изображения для открыток к различным церковным праздникам и распространяют их в приходских группах в мессенджерах и соцсетях. Уже не говорю про умные колонки и капсулы с голосовым помощником, которые практически стали виртуальными членами семьи. Они включают нам молитвенные правила, ищут церковную музыку под настроение, транслируют лекции по христианскому богословию и многое другое.
С помощью голосовых нейросетей на видеоплатформах производится озвучивание текстов для видеороликов духовного содержания. Искусственный интеллект в приложениях онлайн-кинотеатров и музыкальных сервисов формирует вкус верующего пользователя, анализируя его предпочтения и предлагая что-то новое, что ему могло бы понравиться. Крупные новостные агрегаторы давно используют алгоритмы нейросетей для публикации статей, куда попадают и церковные новости. Поисковые системы также формируют выдачу результатов христианских запросов на базе все того же ИИ. А один мой знакомый иеромонах с помощью музыкальной нейросети генерирует вполне недурные музыкальные композиции с глубоким евангельским подтекстом. Честно признаюсь, что я тоже пользовался искусственным интеллектом для создания этого текста. Разумеется, речь не про бездумное копирование, а лишь про поиск идей и тезисов. Другими словами, искусственный интеллект уже сейчас меняет нашу социальную реальность. Он стал нашим повседневным помощником и, конечно, начинает влиять на наше восприятие мира, формирует наш вкус, расширяет перечень потребностей.
Искусственная ВКР
С одной стороны, да – он облегчает жизнь человека, выполняя кропотливую и рутинную работу за него. Это высвобождает множество свободного времени, которое мы можем потратить на что-то полезное. С другой стороны, вызывает новые, доселе невиданные проблемы, которые необходимо начинать решать уже сегодня, пока это не привело к катастрофическим последствиям. О каких проблемах идет речь? Для того, чтобы не показаться голословным, приведу несколько конкретных примеров.
В начале этого года председатель Учебного комитета Русской Православной Церкви протоиерей Максим Козлов рассказал РИА Новости, что развитие искусственного интеллекта скоро может привести к отмене защиты выпускной квалификационной работы (ВКР) в высшей школе. «Новые технологии требуют глубокого церковного ответа. Тот же искусственный интеллект будет предполагать, что в ближайшие годы придется изменять характер итоговой аттестации, потому что написание итоговых студенческих работ утратит смысл. Мы вернемся к формату устного ответа», – пояснил отец Максим.
Другими словами, влияние ИИ на православные духовные семинарии уже достигло таких масштабов, что в ближайшем будущем может быть отменен формат письменной дипломной работы. Если вчера семинаристы скачивали научные тексты из Интернета, что можно было определить программами против плагиата, то уже сегодня пишут ВКР с помощью нейросетей, «почерк» которых сложно аппаратно вычислить.
Религиозный блок
Вкус самой нейросети формируют разработчики, настраивая угол зрения нейросети под собственное отношение к религии. Речь про сугубо материалистический взгляд на мир. Таким образом, в базу знаний ИИ попадают все, что у нас, у людей, называется «отсебятиной». Ниже приведу реальный пример выдачи нейросети YandexGPT-2 с голосовым помощником Алиса по запросу «Что такое духовная жизнь?»
Вот прямая цитата: «Духовная жизнь – это сфера общественной жизни, связанная с производством и распределением духовных ценностей, с удовлетворением духовных потребностей человека. Она охватывает знания, веру, чувства, переживания, потребности, стремления и цели людей. Духовная жизнь выражается в двух видах деятельности: создание и сохранение духовных ценностей, а также их усвоение и распространение».
Если кратко, то Алиса обобщила и низвела духовную жизнь до уровня искусства и культуры. Другими словами, посетить оперу, картинную галерею и послушать патриотические песни Шамана – это и есть, по ее мнению, духовная жизнь. Для религиозного человека это всегда молитва, борьба с грехами, развитие добродетелей, преображение души, то есть попытка стать лучшей версией себя, чтобы научиться любить людей и через это приблизиться к Богу. К чему это я? К тому, что ИИ уже сейчас способствует секуляризации России, табуируя официальную информацию традиционных религий.
Эффект калькулятора
Озвучу еще одну реальную проблему искусственного интеллекта. Алгоритмы популярных видеоплатформ, ориентируясь на ролики, просмотренные верующим человеком, нередко рекомендуют такому религиозному пользователю контент, созданный гуру тоталитарных сект, и разнообразных раскольников, и лжеучителей. Системе на основе ИИ, имеющей очень поверхностные данные, начинает «казаться», что рекомендация совершается на основе интересов пользователя. Что происходит на самом деле? Алгоритмы нейросети способствуют вовлечению человека, который еще не твердо стоит в своей вере, в деятельность деструктивных культов. К сожалению, никто не ведет статистику личных трагедий по таким случаям.
Ученые кафедры информационных систем и программирования Кубанского государственного технологического университета провели научное исследование «Взаимодействие искусственного интеллекта и человека в современном мире». Они пришли к выводу, что люди слишком часто стали полагаться на решения ИИ и постепенно утрачивают способность к самостоятельному анализу, в итоге становятся зависимыми от него. Лично я назвал этот феномен эффектом калькулятора, результаты которого мы не подвергаем сомнению.
Управляющий директор сектора прикладного ИИ компании Axenix Лариса Малькова прогнозирует, что в обозримом будущем у каждого из нас может появиться цифровой индивидуальный ИИ-помощник, без которого, как сейчас без телефона, мы не сможем обойтись. Авторы исследования «О взаимодействии человека и искусственного интеллекта: новая социальная реальность в представлении московских студентов» (СПИ РАН и РЭУ имени Г. В. Плеханова) пришли к заключению, что столичная молодежь уже готова к личному цифровому ассистенту.
Этичный ИИ
А закончить хотелось бы конкретными предложениями, которые в прошлом году на круглом столе, посвященном обсуждению правового регулирования и применения нейросетевых технологий в НИУ ВШЭ, озвучил председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детства священник Феодор Лукьянов.
Во-первых, законодательно ограничить перенесение человеческого образа на ИИ, чтобы в будущем люди не одушевляли ИИ, не творили себе кумира. Во-вторых, ввести маркировку на сервисы и материалы, созданные с помощью нейросетей. В-третьих, установить ответственность разработчика за содержание информации, транслируемой ИИ. В-четвертых, защитить несовершеннолетних от раннего доступа к нейросетям. В-пятых, технологию ChatGPT необходимо локализовать под российскую вычислительную инфраструктуру и телекоммуникационные сети, чтобы «воспитать» нейросети на основе своей собственной этики, основанной на традиционных ценностях нашей страны. Тут и добавить нечего.
Поделиться:
9 октября 2024