Исследование MIT утверждает, что ChatGPT и другие подобные ИИ чат-боты могут ослаблять критическое мышление у человека

Исследование MIT утверждает, что ChatGPT и другие подобные ИИ чат-боты могут ослаблять критическое мышление у человека

Согласно новому исследованию учёных из MIT Media Lab, регулярное использование LLM (в частности ChatGPT) при выполнении учебных задач, таких как написание эссе, приводит к систематическому снижению когнитивной активности мозга человека

Если не вдаваться в дебри 📄 документа из 206 страниц, то становится очевидным следующее:

Анализ электроэнцефалографии (ЭЭГ — метод исследования головного мозга, который измеряет электрическую активность мозга) 54 участников показал значительное ослабление нейронных связей и общее снижение мозговой активности у тех, кто пользовался дегенеративными моделями

Результаты указывают на серьёзные риски развития когнитивных способностей, включая снижение критического мышления и ухудшение памяти

Выраженный эффект наблюдается при долгосрочном использовании дегенеративных ассистентов

В ходе эксперимента участников разделили на три группы, чтобы написать эссе:

Первая пользуется LLM (GPT-4o)

Вторая использует поисковую систему Google

Третья полагается исключительно на собственные знания (cвой мозг), то есть участникам этой группы было запрещено использовать как LLM, так и любые поисковики.

Результаты:

LLM-группа показала худший результат

83% участников сообщили о трудностях с цитированием предложений, и никто (0%) не смог привести в точности ни одной правильной цитаты из своего эссе, написанного всего несколько минут назад

У группы Google общая нейронная связность была на 48 % ниже, чем у группы «мозг без инструментов», но значительно выше, чем у пользователей с ChatGPT

Мозг был занят поиском, оценкой и интеграцией внешней информации.

Участники эксперимента не просто копировали, но и активно выбирали — какие именно источники использовать и как их скомпоновать для получения лучшего результата

Третья группа "мозг", в отличие от пользователей ChatGPT, демонстрировала почти идеальную способность к цитированию своих эссе

Поскольку люди самостоятельно генерировали и структурировали информацию

Их мозг формировал устойчивые следы памяти, а процесс синтеза был собственным.

Исследователи указывают на то, что информация, полученная от дегенеративных моделей, не была по-настоящему осмыслена и усвоена

Она не прошла через процессы глубокой когнитивной обработки, необходимые для формирования долгосрочной памяти, и, следовательно, не стала собственным знанием человека

Мозг просто выступает в роли копировальной машины "Сtrl+C" и "Ctrl+V", легко забывая всё, что выдаёт дегенеративная модель

Главный вывод, подтверждённый вескими доказательствами, заключается в том, что использование LLM для выполнения сложных творческих задач переводит мозг в режим "когнитивного сбережения"

Вместо того чтобы формировать и укреплять собственную нейронную связность через синтез и запоминание, мозг делегирует эти функции машине

Получили немедленный результат, но платим за это ослаблением фундаментальных когнитивных способностей, таких как память и критическое мышление, в долгосрочной перспективе

Интеграция моделей в образовательную сферу должна быть максимально щепетильной с акцентом на роль дегенерации как вспомогательного инструмента и без наставничества

Мозг участников, привыкших обращаться за помощью к дегенеративному интеллекту, не смог полноценно вернуться к нормальной деятельности после отказа от инструмента

Игнорировать ML-модели в 2025, разумеется, тоже нельзя, поэтому лучшее решение — использовать LLM в качестве "когнитивного усилителя" на этапе мозгового штурма, проверки гипотез или стилистической правки уже созданного человеком контента, фактчекинга и так далее, где ML способен повысить качество работы и указать на недочёты, но лишь как вспомогательный инструмент, минимально влияя на ухудшение когнитивных способностей