Людям это не нравится, но, может быть, всего лишь может быть, инструмент значит меньше, чем пользователь.
В 2008 году журнал The Atlantic вызвал бурную полемику своей провокационной обложкой: «Google делает нас глупыми?»
В этом эссе из 4000 слов, которое позже превратилось в книгу, автор Николас Карр предположил, что ответ положительный, и аргументировал это тем, что такие технологии, как поисковые системы, ухудшают способность американцев к глубокому мышлению и запоминанию.
В основе беспокойства Карра лежала мысль о том, что людям больше не нужно запоминать или учить факты, ведь они могут мгновенно найти их в интернете. Хотя в этом может быть доля правды, поисковые системы по-прежнему требуют от пользователей критического мышления для интерпретации и контекстуализации результатов.
Перенесёмся в наши дни, когда происходит ещё более глубокий технологический сдвиг. С появлением инструментов генеративного искусственного интеллекта, таких как ChatGPT, пользователи интернета не просто передают на аутсорсинг память — они, возможно, передают на аутсорсинг само мышление.
Инструменты генеративного ИИ не просто извлекают информацию, они могут создавать, анализировать и обобщать её. Это фундаментальное изменение: можно сказать, что генеративный ИИ — это первая технология, которая может заменить человеческое мышление и творческий подход.
В связи с этим возникает важный вопрос: не делает ли ChatGPT нас глупее?
Как активный пользователь, работающий с ИИ более пяти лет, я наблюдал за этой трансформацией своими глазами. И поскольку многие люди всё чаще делегируют когнитивные задачи ИИ, я думаю, стоит задуматься о том, что именно мы приобретаем и что рискуем потерять.
ИИ и эффект Даннинга — Крюгера
Генеративный ИИ меняет способы доступа к информации и её обработки. Для многих он заменяет необходимость просеивать источники, сравнивать точки зрения и бороться с неопределённостью. Вместо этого ИИ за считанные секунды выдаёт чёткие, отшлифованные ответы. Хотя эти результаты могут быть, а могут и не быть точными, они, несомненно, эффективны. Это уже привело к большим изменениям в том, как мы работаем и мыслим.
Но за это удобство может приходиться платить. Когда люди полагаются на ИИ в выполнении задач и принятии решений, они могут ослаблять свою способность критически мыслить, решать сложные проблемы и глубоко погружаться в информацию. Хотя исследования в этой области ограничены, пассивное потребление контента, созданного ИИ, может подавлять интеллектуальное любопытство, снижать концентрацию внимания и вызывать зависимость, которая ограничивает долгосрочное когнитивное развитие.
Чтобы лучше понять этот риск, рассмотрим эффект Даннинга — Крюгера. Это явление, при котором наименее осведомлённые и компетентные люди, как правило, наиболее уверены в своих силах, потому что они не знают, чего не знают. Напротив, более компетентные люди, как правило, менее уверены в себе. Часто это происходит потому, что они осознают, какие сложности им ещё предстоит преодолеть.
Эту концепцию можно применить к использованию генеративного ИИ. Некоторые пользователи могут в значительной степени полагаться на такие инструменты, как ChatGPT, чтобы сэкономить когнитивные ресурсы, в то время как другие используют их для расширения своих возможностей. В первом случае они могут ошибочно полагать, что разбираются в теме, потому что могут воспроизводить контент, сгенерированный ИИ. Таким образом, ИИ может искусственно завышать уровень интеллекта, на самом деле снижая когнитивную нагрузку.
Это приводит к разделению в том, как люди используют ИИ. Некоторые так и остаются на «вершине горы Глупости», используя ИИ как замену творчеству и мышлению. Другие используют его для расширения своих когнитивных способностей.
Другими словами, важно не то, использует ли человек генеративный ИИ, а то, как он его использует. При некритичном использовании ChatGPT может привести к интеллектуальной самоуспокоенности. Пользователи могут принимать его ответы, не подвергая сомнению предположения, не ища альтернативных точек зрения и не проводя более глубокого анализа. Но при использовании в качестве вспомогательного средства он может стать мощным инструментом для пробуждения любопытства, генерации идей, прояснения сложных тем и стимулирования интеллектуального диалога.
Разница между тем, делает ли ChatGPT нас глупее или расширяет наши возможности, заключается в том, как мы его используем. Генеративный ИИ должен дополнять человеческий интеллект, а не заменять его. Это значит, что ChatGPT нужно использовать для поддержки исследований, а не для их упрощения. Это значит, что нужно воспринимать ответы ИИ как отправную точку для размышлений, а не как их завершение.
ИИ, мышление и будущее сферы труда
Массовое внедрение генеративного ИИ, вызванное взрывным ростом популярности ChatGPT — за два месяца после выпуска он набрал 100 миллионов пользователей, — на мой взгляд, поставило интернет-пользователей перед выбором. Один путь ведёт к интеллектуальному упадку: мы позволяем ИИ думать за нас. Другой путь открывает возможности: мы расширяем свои интеллектуальные способности, работая в тандеме с ИИ и используя его возможности для развития собственных.
Часто говорят, что ИИ не отнимет у вас работу, но кто-то, использующий ИИ, это сделает. Но мне кажется очевидным, что люди, которые используют ИИ для замены собственных когнитивных способностей, застрянут на вершине горы Глупости. Таких пользователей ИИ будет проще всего заменить.
Те, кто использует расширенный подход к применению ИИ, встанут на путь просветления и будут работать вместе с ИИ, чтобы получать результаты, которых ни один из них не смог бы достичь в одиночку. Именно в этом направлении в конечном счёте будет развиваться сфера труда.
Это эссе началось с вопроса о том, сделает ли нас ChatGPT глупыми, но я хотел бы закончить его другим вопросом: как мы будем использовать ChatGPT, чтобы стать умнее? Ответы на оба вопроса зависят не от инструмента, а от пользователей.