Раньше мы слушали сельского священника. Теперь мы слушаем искусственный интеллект. Если раньше священнику было достаточно сказать: «Бог тебя накажет!» , чтобы все затрепетали, то сегодня, похоже, достаточно искусственному интеллекту сказать что-нибудь, пусть даже нелепое, чтобы большинство приняло это как абсолютную истину.
Мы меняем одну религию на другую, даже если нам трудно в этом признаться. В конце концов, религия — это не более чем то, во что мы слепо верим, не удостаивая себя возможности проверить это самостоятельно.
Вот почему каждый раз, когда я вижу, как кто-то спрашивает ИИ: “Grok, это правда?”, о чем-то, что явно не соответствует действительности, у меня закипает кровь. Буквально. И все это кипит из-за того, как легко мы уничтожаем всё то критическое мышление, которое у нас ещё оставалось.
Мы используем искусственный интеллект как когнитивную опору для всего. Не для того, чтобы вдохновлять нас или упрощать повседневную жизнь, а для того, чтобы делегировать мыслительные процессы, чтобы избежать усилий, связанных с самостоятельным установлением связей, анализом и выводами. Проблема не в том, что мы используем ИИ, а в том, что мы перестаём использовать свой мозг.
Опасность заключается не в самом ИИ. Опасность заключается в нас, без колебаний отказывающихся от своей автономии. Риск не в том, что искусственный интеллект «контролирует» нас, а в том, что мы перестаём задавать вопросы, проверять и думать. Риск в том, что мы превращаем его в своего рода тайную религию, где всё, что говорит алгоритм, священно.
Цифровой оракул: новый опиум для народа?
История повторяется. Люди всегда искали авторитетных фигур, которые освободили бы их от бремени и ответственности самостоятельного мышления. Раньше это был священник, затем мотивационный гуру, а затем модный коуч. Теперь же это алгоритм, обученный на миллионах текстов, который выдаёт убедительные, поверхностные ответы.
И хотя эта технология может показаться нам захватывающей и новой, правда в том, что психологический механизм, лежащий в её основе, остаётся тем же на протяжении веков: слепая вера, потому что думать самостоятельно — лениво.
По иронии судьбы, искусственный интеллект призван звучать убедительно и создавать ощущение авторитета, а не обязательно быть заслуживающим доверия.
Издание The New York Times получило внутренний документ Microsoft, в котором признаётся, что эти системы работают с вероятностями и «разработаны для убедительности, а не для правдивости». Это означает, что их ответы могут казаться очень реалистичными, но содержат утверждения, которые не соответствуют действительности. Эти неточности и склонность к искажению информации удобно называть «галлюцинациями ИИ».
В результате некоторые люди просят ИИ помочь им разрешить конфликты в отношениях, как будто алгоритм способен понять уникальную эмоциональную динамику, возникающую между двумя людьми. Или родители спрашивают ИИ, как лучше воспитывать своих детей, как будто ответ машины может заменить суждение, сочувствие или личный опыт.
Люди, которые спрашивают ИИ, "в чём истинный смысл жизни", как будто алгоритм может ответить на вопрос, который даже далекие от науки философы не смогли прояснить за века истории. Не говоря уже о тех, кто спрашивает: «Правда ли, что лимонная вода лечит рак?» (Спойлер: нет, нет и нет).
Мы задаём ИИ всё, словно он воплощение мудрости: от выбора лучшего метода лечения до того, что значит видеть во сне зелёного кота в шляпе. Неважно, представляют ли ответы смесь вероятностей, обрывков украденных данных и статистических формул: пока «алгоритм» говорит что-то, этого кажется достаточно. Внезапно оказывается, что доказательства, здравый смысл или критическое мышление больше не нужны. Что бы ни сказал цифровой оракул - это закон.
Быстрые уверенности, никаких раздумий
Психология напоминает нам, что мозг склонен искать кратчайшие пути. ИИ - идеальный кратчайший путь: быстрые, правдивые и лёгкие ответы. Но он также напоминает нам, что когнитивные кратчайшие пути часто оказываются ловушками. Они создают у нас ощущение, будто мы знаем, хотя на самом деле это не так. Они заставляют нас верить, что мы думаем, хотя на самом деле мы слепо верим тому, что нам говорят.
Недавно, исследователи Массачусетского технологического института попросили группу людей написать эссе самостоятельно, используя поисковую систему Google или ChatGPT. Регистрируя активность мозга, они обнаружили, что пользователи ChatGPT демонстрируют самую низкую активность и худшие результаты на нейронном, лингвистическом и поведенческом уровнях.
После нескольких месяцев исследования они также обнаружили, что пользователи ChatGPT стали ленивее, а их эссе всё больше напоминали скопированные ответы алгоритма.
Не обязательно проводить исследование, чтобы понять, что если задавать ИИ любые вопросы, то мы становимся интеллектуально ленивее (то есть глупее), хотя всегда интересно получить научное подтверждение.
Не поймите меня неправильно: ИИ - мощный инструмент, который может помочь нам стать более креативными и эффективными, но он не должен идти в ущерб нашей человечности и критическому мышлению. Использовать его — не значит поклоняться ему. Одно дело полагаться на машину, и совсем другое - превращать её в замену нашего суждения. Ведь когда мы отказываемся от здравого смысла, то, что становится обыденным, становится бессмыслицей.
Раньше мы слушали священника, потому что он обещал нам рай. Теперь мы слушаем искусственный интеллект, потому что он обещает нам немедленную уверенность. В конечном счёте, всё повторяется: мы предпочитаем слепую веру неприятным сомнениям и усилиям, которые требуются для самостоятельного поиска ответов. Если мы продолжим в том же духе, мы рискуем потерять то, что делает нас особенными - критическое мышление.
Источник:
Космина, Н. и др. (2025) Ваш мозг в ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания эссе. Массачусетский технологический институт; arXiv.2506.08872.