Критика ИИ
Исследование, проведённое Лабораторией медиасистем MIT, изучает когнитивные и нейронные эффекты использования языковой модели (LLM), такой как ChatGPT, во время выполнения письменных заданий. Целью было сравнение различий в мозговой активности между тремя группами участников, пишущих эссе: «Только мозг» — без цифровой помощи, «Поисковик» — с использованием традиционного интернет-поиска, и «LLM» — с помощью ChatGPT. В исследовании приняли участие 54 добровольца, проходивших 3 сессии с интервалом в несколько месяцев. Во время написания эссе их мозговая активность измерялась с помощью датчиков ЭЭГ. Четвёртая, перекрёстная сессия позволила исследователям наблюдать, что происходит, когда участники меняют подход — например, переходят от ChatGPT к самостоятельной работе. Результаты касаются нейронной активности, памяти, чувства авторства и изменений этих параметров со временем.
Ключевые выводы показывают признаки когнитивной атрофии, связанной с использованием ChatGPT. Группа, использовавшая ChatGPT, показала снижение общей мозговой активности на 55% по сравнению с группой «только мозг». Отмечено меньшее вовлечение зон, связанных с критическим мышлением, креативностью и исполнительным контролем. Использование LLM, похоже, выносит процесс мышления наружу, снижая требуемое умственное усилие.
Потеря памяти: 83% пользователей ChatGPT не смогли правильно вспомнить собственные эссе уже через несколько минут. Эта амнезия указывает на то, что идеи не были должным образом интегрированы или зафиксированы в эпизодической памяти.
Ослабленное чувство авторства: многие участники сомневались, действительно ли они сами являются авторами своих текстов. Это явление свидетельствует о потере когнитивного агентства — они передают создание текста ИИ без глубокого интеллектуального присвоения результата.
Когнитивный долг: мгновенный рост продуктивности достигается за счёт долгосрочных интеллектуальных способностей. Это может нанести вред критическому мышлению, креативности и увеличить уязвимость к алгоритмическим искажениям.
Те, кто регулярно использовал ChatGPT, а затем возвращался к самостоятельному письму, испытывали трудности с восстановлением нормальной мозговой активности. Напротив, те, кто начинал без ИИ, а затем подключал его, демонстрировали более эффективное использование инструмента, что указывает на защитную роль первоначального критического мышления.
Таким образом, регулярное использование ChatGPT для интеллектуальных задач может привести к когнитивной зависимости, атрофии мозга и утрате способности мыслить автономно. Несмотря на практичность этой технологии, она ставит серьёзные педагогические, нейрологические и философские вопросы о природе человеческого мышления, памяти и креативности.
Ответ
Прежде всего, не претендуя на статус специалистов, мы хотим высказать некоторые методологические замечания по поводу данного исследования. Во-первых, в нем отсутствует контрольная группа, прошедшая обучение по оптимальному использованию ИИ — такому, какое мы опишем в этом тексте. Это было бы весьма значимо.
Во-вторых, ЭЭГ является слишком узким критерием, так как фиксирует лишь часть мозговой активности. Снижение активности мозга не обязательно означает деградацию. Это может свидетельствовать об эффективности, а не дефиците: различие между когнитивной эффективностью и усилием. Снижение мозговой активности может указывать на оптимизацию ресурсов: зачем тратить больше энергии, если в этом нет необходимости? Это может быть перенаправление внимания, сосредоточение на более высокоуровневых задачах или естественная адаптация — как в случае, когда вождение автомобиля становится автоматическим с опытом или GPS снижает нагрузку на память, позволяя сосредоточиться на вождении, безопасности или более интересных задачах, чем запоминание маршрута.
Исследование MIT Media Lab подчеркивает «тревожные» последствия пассивного, некритического использования ChatGPT: снижение мозговой активности, потеря эпизодической памяти, ослабление чувства авторства. Однако, как нам кажется, эти выводы не осуждают сам инструмент, а лишь вскрывают неправильный способ его использования. Не инструмент одурманивает, а пассивный подход к нему. Как и чтение книги не гарантирует мышления, так и ИИ не заменяет интеллектуальные усилия. Человек, бездумно копирующий текст ИИ или книги, отказывается от своей когнитивной ответственности. Напротив, человек, который взаимодействует, переформулирует, критикует и трансформирует то, что предлагает ChatGPT, формирует активную и диалектическую практику мышления. Тогда инструмент становится “спарринг-партнером”, как в боксе, партнером по размышлению, а не заменой мозга.
Кроме того, сниженная активность мозга не обязательно свидетельствует об утрате интеллекта. Когда опытный пианист играет знакомую пьесу, его мозговая активность уменьшается, потому что он действует более эффективно. Передача некоторых задач — форматирования, поиска информации, сбора примеров, предварительного синтеза — может освободить ресурсы для стратегической, рефлексивной или метакогнитивной работы второго уровня. При условии, что у человека есть намерение, интерес и осознание. ИИ сам по себе не ослабляет мышление: он освобождает его для сосредоточения на главном. Утверждение, что ChatGPT снижает мозговую активность, вероятно, верно, но вводит в заблуждение. Снижается усилие, необходимое для механических задач — именно в этом и заключается назначение технологического инструмента: освободить нас от рутины, чтобы мы могли направить энергию на более творческие и критические задачи. Как клавиатура избавляет руку от усталости и позволяет быстрее писать, так и ИИ становится рычагом для более глубоких размышлений.
Сообщения о потере чувства авторства — это скорее проблема позиции, чем технологии. Если некоторые участники сомневались, что они действительно являются авторами своих текстов, это лишь отражает новое осознание соавторства между человеком и машиной — что является не минусом, а достоинством. Вместо того чтобы отрицать эту реальность, нужно переосмыслить понятие авторства: в цифровую эпоху автор — это не просто уединенный творец (если он когда-либо таковым и был), а тот, кто выбирает, корректирует, направляет и интерпретирует. Да, можно отказаться от ответственности перед ИИ, но авторство можно восстановить через активную позицию. Попросить ИИ сгенерировать идею — это то же самое, что проконсультироваться с экспертом или справочником перед написанием. Это не обман — это умное сотрудничество.
Поскольку мы можем сделать диалог с ИИ своим, рассматривать его как диалектическое зеркало, исследовательский инструмент или даже оппонента, при условии, что мы правильно его направляем: он не всегда проявляет критичность, если его об этом не попросить. Писать с ИИ можно как интеллектуальное упражнение: мы противопоставляем ему свои идеи, уточняем формулировки, повышаем уровень точности, задаем более острые вопросы. Более субъективно, но и реалистично, будет немного развенчать принцип «авторства» и гордость, с ним связанную. Пишущий человек легко забывает вклад других и случайность собственных идей, что приводит к своеобразной гордыне или высокомерию.
Кроме того, в выводах исследования упущено то, что любое обучение требует времени на присвоение. Те, кто перешел от самостоятельного письма к использованию ИИ и столкнулся с трудностями? Это лишь доказывает, что ум нуждается в подготовке, прежде чем ему предложат «костыли». Подобно тому, как ученик сначала учится писать без автокоррекции, а уже потом — с редакторами. Сократ критиковал появление письма, утверждая, что оно вызывает «забвение в душах», потому что люди перестанут тренировать свою память. Это была справедливая критика для устной культуры, но сегодня кажется «устаревшей» или даже абсурдной. Сегодня никто не отрицает, что письмо обогатило человеческую мысль. Забывать «детали» — не амнезия, а естественная внешняя память.
То, что 83% пользователей не могли вспомнить свои тексты? Это не значит, что они утратили способность мыслить, а лишь то, что часть памяти была вынесена наружу — как мы давно делаем с книгами, календарями и заметками. Когнитивную автономию можно восстановить, если сохраняется критическое мышление. Столкнулись с трудностями те, кто вернулся к письму без ИИ? Это указывает на зависимость, безусловно, но, скорее, подчеркивает необходимость научиться переключаться между двумя режимами: с поддержкой и автономным. Это не ново: те, кто учился играть на пианино с помощью программ, тоже могут сначала испытывать трудности с импровизацией без них. Но никто не утверждает, что технологии уничтожили их музыкальность.
ИИ, при правильном использовании, может стать инструментом когнитивного освобождения. Он может вскрыть слепые зоны, оспорить устоявшиеся мнения, предложить неожиданные альтернативы, расширить концептуальные горизонты — при условии, что человек не пассивен. Как калькулятор не уничтожил математическое мышление, а привел к переосмыслению математического образования и позволил сосредоточиться на рассуждении, так и ИИ должен привести к пересмотру педагогики критического мышления, интеллектуальной ответственности и творческой автономии. Риск «когнитивного долга» реален, но он не в ИИ, а в том, как мы его используем. Как любой мощный инструмент, ChatGPT может оглупить при неправильном применении, но и обогатить обучение при методическом подходе. Можно просить ChatGPT генерировать аргументы, а затем их критиковать. Можно использовать его для создания идей, а затем их анализировать. Можно сделать из него диалектического собеседника. Это требует обучения критическому использованию ИИ, а не его запрета.
Более того, это требует переосмысления самой системы образования: весь человеческий багаж знаний теперь мгновенно доступен. Это — настоящий вызов для учителей, которым нужно адаптироваться. ИИ может быть катализатором творчества, помощником для тех, кто сталкивается с трудностями при письме, помогая преодолеть страх белого листа, предложив идеи или черновики. Он предлагает новые перспективы, помогает быстро исследовать разные подходы, освобождает время для стратегического мышления и развивает метакогнитивные навыки. Это средство коллективного мозгового штурма, уточнения, перекрестной верификации, особенно с учетом того, что теперь существует множество моделей.
Профессиональное использование ИИ развивает искусство задавать вопросы, составлять эффективные запросы, критически оценивать, анализировать ответы, синтезировать информацию, интегрировать источники, направлять творчество и управлять процессом. Конечно, для этого нужно выйти за рамки пассивного копирования, полного делегирования мышления или иных форм «жульничества».
Кроме того, ИИ способствует демократизации сложного мышления, делая инструменты рефлексии доступными для всех — те, что раньше были доступны лишь интеллектуальной элите. Он может объяснять столько, сколько нужно, адаптируясь к уровню пользователя. Он помогает студентам, учащимся или работникам с когнитивными трудностями начать мыслить, структурировать, формулировать и аргументировать — даже без подготовки в риторике или философии. Это — демократизация критического мышления, при условии, что есть сопровождение. Конечно, как всегда, разрыв между теми, кто хочет думать, и теми, кто нет, сохранится, возможно, увеличится — это новая форма грамотности.
В будущем, в условиях соэволюции человека и ИИ, последний станет когнитивным партнером, а не заменой. Цель не в замене человеческого интеллекта, а в создании продуктивной симбиозной связи. ИИ превосходит в обработке данных и генерации, человек — в контексте, этике и креативности. Вместе это — сила, превосходящая каждую из сторон по отдельности. Как никто сегодня не ожидает, что архитектор будет чертить вручную или бухгалтер считать без Excel, так и профессиональные стандарты эволюционируют, включая ИИ как стандартный инструмент, при этом ценя человеческий навык его использования.
Мы должны обучать критическому использованию ИИ с раннего возраста и, конечно, сохранять задания без ИИ, чтобы сохранить базовые способности. Мы должны развивать методы оценки, которые поощряют критическое мышление. Мы должны стремиться к ответственной «дополненной» интеллектуальности.
Таким образом, использование ИИ — если оно осознанное, образовательное и направленное — не ослабляет мышление человека, а освобождает его. Оно позволяет сконцентрировать ментальные ресурсы на главном, развить новый вид интеллектуального сотрудничества и сделать творчество доступным для всех. Но для этого необходимо освоить новую «культуру», критическое сознание и ответственное обращение. ИИ не убивает мышление — он выявляет его лень или силу. Проблема — не в инструменте, а в отсутствии образования вокруг него. Перед лицом этих новых вызовов мы не должны запрещать или демонизировать, а учить этичному, обогащающему, строгому и креативному использованию. Результаты исследования — это важный сигнал, но он не должен привести к слепому отказу от ИИ. Напротив, они подчеркивают необходимость вдумчивого, обученного и сбалансированного подхода. Вызов — не в выборе между человеческим и искусственным интеллектом, не в их конкуренции, а в том, как скоординировать их сотрудничество, чтобы создать «дополненный интеллект», сохраняющий и развивающий наши когнитивные способности, используя технологический потенциал. Как и при каждой технологической революции, ключ к успеху — в образовании, подготовке и развитии коллективной мудрости в использовании этих новых инструментов. Цель — стать умнее с ИИ, а не слабо от него зависеть.