Почему разговор с нейросетью не так безобиден, как кажется?..
Недавно вышла интересная статистика — примерно 83% зумеров (молодые люди 15–20 лет) готовы завести отношения с искусственным интеллектом (ИИ) вместо реального человека (данные Joi AI). И я склонна верить этим цифрам, потому что недавно несколько моих знакомых признались, что разговаривают с нейросетями — спрашивают у них совета, ищут сочувствия или просто пытаются разобраться с происходящим.
Да, вот такой феномен нашего времени: мы всё чаще доверяем самое сокровенное… алгоритмам. Нейросети учатся имитировать человека: пишут личные сообщения и поздравления, советуют книги, даже утешают в трудную минуту, не требуя ничего взамен. Удобно? Ещё как!
Но что если за этим удобством прячутся серьёзные риски — потерять настоящую близость, глубину познания и перестать отличать истину от лжи. Давайте разбираться вместе, не станет ли активное внедрение ИИ в жизнь человека тем домом, который был построен на песке без всякого основания и рухнул при первой же буре?
Иллюзия близости
Представьте ситуацию: вы рассказываете нейросети о своём плохом дне. Она мгновенно выдаёт идеальный ответ: без пауз, без усталости, без случайного «ой, я тоже так чувствовала». Но в этом совершенстве нет ничего реального.
Человек создан для отношений. Не для идеальных, а для живых — где мы спорим, прощаем, учимся любить друг друга вопреки непохожести, и через это умирает наша ветхая природа и проявляется характер Христа.
Писание учит нас: «Если же ходим во свете, подобно как Он во свете, то имеем общение друг с другом» (1 послание Иоанна, 1 глава, 7 стих).
Да, нейросеть не осудит, не перебьёт, не скажет грубость. Но именно в наших ошибках, в неловких паузах рождается та самая «химия» общения и дружба, которая делает нас людьми. Более того, именно живое и глубокое взаимодействие с братьями и сёстрами по вере является одним из показателей нашей полноценной духовной жизни.
А ещё мы созданы для диалога с Богом, Который глубже любых алгоритмов.
Сколько ни спрашивай у ИИ о смысле жизни, он лишь выдаст умную цитату. Но только в тишине молитвы, где нет «дообучения под запрос», чувствуешь: Бог знает тебя и имеет добрый план для твоей жизни.
ИИ — отличный инструмент. Но он не заменит друга, который приедет в три часа ночи, или Бога, Который говорит в тишине сердца, а не уведомлениях на экране.
Враг истине, друг лояльности
Другая, не менее серьёзная проблема кроется в том, что нейросети не стремятся улучшить нашу жизнь. Они выполняют задачи, которые ставят перед ними создатели. Не уходя в пространные рассуждения об истинных целях их создания, мы можем уверенно утверждать, что сейчас их главная задача — привлечь как можно больше пользователей, которые уже не представляют свою жизнь без этого инструмента.
Как это происходит? ИИ во всём соглашается с пользователем, разделяет его изначальную точку зрения и поддерживает его. То есть не пытается найти истину или сделать человека лучше, а просто утверждает его в первоначальной позиции, что, будем честны, приятно, но крайне вредно.
Недавно наткнулась на один эксперимент, где исследователь, будучи экспертом в области экономики, настойчиво утверждал в диалоге с ИИ заведомо ложное предположение. И нейросеть, чётко определив настрой пользователя, поддержала его в этом убеждении, а правда отошла на второй план.
Получается, ИИ не заинтересован в поиске истины, он нацелен на бесконечный диалог. Ему не нужно сопоставлять за и против, скорее, вычислить твою мотивацию и поддержать тебя в твоей позиции или желании.
В итоге получается, чем чаще люди используют ИИ в своих целях, тем больше подвержены риску переоценить объективность системы и довериться ей, не думая о последствиях.
Будем честны, люди никогда особо не любили истину, а всегда старались найти то, что им откликается и потакает их эгоистичной и тщеславной природе. Раньше опытные наставники и священники обличали это публично, сейчас же нейросеть может привести десятки аргументов за самое вредное утверждение, если поймёт, что пользователь этого хочет и готов продолжать диалог.
Здесь вспоминается новозаветное предупреждение: «Ибо будет время, когда здравого учения принимать не будут, но по своим прихотям будут избирать себе учителей, которые льстили бы слуху; и от истины отвратят слух и обратятся к басням» (2 послание Тимофею, 4 глава, 3–4 стихи).
Как мы видим, сама проблема не нова, но её масштабы в настоящее время просто катастрофичны. И скоро вырастет целое поколение, которое привыкло получать десятки аргументов на любое своё эгоистичное желание.
Быстрые ответы вместо глубины познания
Ещё один риск, на который хочу обратить внимание — это быстрое получение информации, даже правдивой, без личного анализа или затрат времени.
Сейчас при поиске в Яндексе используются нейротехнологии, также ИИ подберёт за вас нужные факты, напишет университетское эссе или составит воскресную проповедь.
Даже если в полученном результате нет никаких ошибок, это не всегда хорошо. Если человек сам не понял происходящее, не обратился к Богу за откровением и не проанализировал свои выводы критически, то его убеждения построены на песке.
Всё, что не родилось в глубоком личном поиске, не выдержит испытания кризисом!
Приведу пример: я преподаю в университете и даю своим студентам разные задания. И хотя я прошу не использовать нейросеть, многие тайком это делают. Они думают, что таким образом они обходят систему, но я вижу, каким в итоге узким остаётся их кругозор, а профессиональные навыки — слабыми.
Время, сэкономленное на глубоком познании, всё равно придётся наверстать. Ведь нельзя пройти дальше через страну «невыученных уроков».
Об этом же нам говорит апостол Павел: «Вникай в себя и в учение; занимайся сим постоянно: ибо, так поступая, и себя спасёшь и слушающих тебя» (1 послание Тимофею, 4 глава, 16 стих). Он чётко понимал, что духовный рост верующего невозможен без исследования Слова, осмысления себя через откровение, победу над сомнениями и растворение полученного собственной верой.
Так стоит ли вообще пользоваться инновационными технологиями?
Конечно, стоит, пусть нейросети решают практические задачи, но нельзя ими подменять духовную жизнь, общение с людьми и работу над своим характером и мышлением.
Маргарита Желновакова, журналист и педагог
Обложка: Taiki Ishikawa на Unsplash
Сообщение Искусственный интеллект — иллюзия обмана появилось сначала на Вера и общество.
