Когда я был студентом, в далеком прошлом, когда большинство компьютеров были еще огромными мейнфреймами, у меня был друг, чей аспирант настаивал на том, чтобы он выполнял длительный и трудный расчет по атомной теории вручную. Это привело к тому, что страница за страницей появлялись царапины от карандаша, полные ошибок, так что мой друг, наконец, поддался своему разочарованию. Однажды ночью он пробрался в компьютерный класс и написал короткий код для выполнения расчетов. Затем он кропотливо скопировал результат вручную и отдал его своему профессору.
Отлично, сказал его советник - это показывает, что ты настоящий физик. Профессор никогда не был более мудрым в том, что случилось. Пока я терял связь со своим другом, я знаю многих других, кто продолжал ковать успешную карьеру в науке, не овладевая карандашно-бумажной героикой прошлых поколений.
Обычно при обсуждении переходных процессов в обществе приходится сосредотачивать внимание на новых навыках, которые становятся необходимыми. Но вместо того, чтобы смотреть на то, чему мы учимся, может быть, стоит рассмотреть аверс: что становится безопасным, чтобы забыть? В 2018 г. журнал Science задал десяткам молодых ученых вопрос о том, какие школы должны обучать следующее поколение. Многие говорили, что мы должны сократить время, затрачиваемое на запоминание фактов, и дать больше места для более творческих занятий. По мере того, как Интернет становится все более мощным и всеобъемлющим, зачем запоминать и хранить информацию? Если студенты могут получить доступ к мировым знаниям с помощью смартфона, зачем им столько носить их в голове?
Цивилизации развиваются через стратегическое забывание того, что когда-то считалось жизненно важными жизненными навыками. После аграрной революции эпохи неолита работник фермы мог позволить себе забыть о большом количестве лесоматериалов, навыках слежки за животными и других знаниях, жизненно важных для охоты и собирательства. В последующие тысячелетия, когда общество индустриализировалось, чтение и письмо стали жизненно важными, в то время как знания о пахоте и уборке урожая могли оказаться на обочине.
Многие из нас сейчас быстро теряются без нашего смартфона GPS. Так что же дальше? С машинами без водителя, забудем ли мы о том, как самим ездить? Окруженные системой распознавания голоса, способной разобрать самые тонкие высказывания, забудем ли мы о том, как пишется? А это имеет значение?
Большинство из нас уже не знает, как выращивать пищу, которую мы едим, или как строить дома, в которых мы живем, в конце концов. Мы не понимаем ни животноводства, ни того, как крутить шерсть, ни, может быть, даже того, как менять свечи зажигания в машине. Большинству из нас не нужно знать эти вещи, потому что мы являемся членами того, что социальные психологи называют "сетями интерактивной памяти".
Мы постоянно участвуем в "операциях с памятью" с сообществом "партнеров по памяти", посредством таких видов деятельности, как разговоры, чтение и письмо. Являясь членами этих сетей, большинству людей больше не нужно запоминать большинство вещей. Это происходит не потому, что эти знания были полностью забыты или потеряны, а потому, что кто-то или что-то еще сохраняет их. Нам просто нужно знать, с кем поговорить или куда пойти, чтобы найти его. Унаследованный талант к такому совместному поведению является даром эволюции, и он значительно расширяет наши эффективные возможности памяти.
Новым, однако, является то, что многие из наших партнеров по запоминанию теперь являются умными машинами. Но ИИ - такой как Google search - является партнером по запоминанию, как никто другой. Он больше похож на "супер-партнера по памяти", мгновенно реагирующего, всегда доступного. И это дает нам доступ к большой части всего хранилища человеческих знаний.
Исследователи выявили несколько подводных камней в текущей ситуации. Во-первых, наши предки эволюционировали внутри групп других людей, своего рода одноранговая сеть памяти. Однако информация от других людей неизменно окрашивается различными формами предвзятости и мотивированного мышления. Они расходятся и рационализируются. Они могут ошибаться. Мы научились жить с этими недостатками в других людях и в самих себе. Но представление алгоритмов ИИ склоняет многих людей к мнению, что эти алгоритмы обязательно правильны и "объективны". Проще говоря, это волшебное мышление.
Самые передовые интеллектуальные технологии сегодня тренируются в процессе многократного тестирования и подсчета очков, где человек в конечном итоге все-таки чувствует - проверяет и принимает решение о правильных ответах. Поскольку машины должны тренироваться на конечных наборах данных, а люди судят со стороны, алгоритмы имеют тенденцию усиливать уже существующие предрассудки - по поводу расы, пола и многого другого. Инструмент для внутреннего подбора персонала, используемый Amazon до 2017 года, представляет собой классический случай: обученный решениям внутреннего отдела кадров, компания обнаружила, что алгоритм систематически оттесняет кандидатов-женщин на второй план. Если мы не будем бдительны, наши суперпартнеры по ИИ могут стать супер-биготами.
Второй вопрос касается легкости доступа к информации. В царстве нежити, усилия, необходимые для поиска знаний у других людей или посещения библиотеки, дают нам понять, какие знания лежат в других мозгах или книгах, и что лежит в нашей собственной голове. Но исследователи пришли к выводу, что сама ловкость реакции интернета может привести к ошибочному убеждению, закодированному в более поздних воспоминаниях, что знания, которые мы искали, были частью того, что мы знали все это время.
Возможно, эти результаты показывают, что у нас есть инстинкт "расширенного ума", идея, впервые предложенная в 1998 году философами Дэвидом Чалмерсом и Энди Кларком. Они предлагают думать о нашем разуме не только как о физическом мозге, но и как о "расширенном разуме", включающем в себя средства памяти и рассуждения: такие как блокноты, карандаши, компьютеры, планшетные компьютеры и облака.
С учетом нашего все более беспрепятственного доступа к внешним знаниям, возможно, мы разрабатываем все более расширяющееся "я" - латентная личность, чье раздутое самосознание включает в себя размывание того, где находится знание в нашей сети памяти. Если да, то что произойдет, когда интерфейсы "мозг-компьютер" и даже "мозг-мозг" станут обычными, возможно, через нейронные имплантаты? Эти технологии в настоящее время разрабатываются для использования пациентами, находящимися в замкнутом пространстве, перенесшими инсульт или больными с прогрессирующей АЛС или болезнью моторных нейронов. Но они, скорее всего, станут гораздо более распространенными, когда технология будет усовершенствована - усилители производительности в конкурентном мире.
Похоже, что появляется новый тип цивилизации, богатый машинным интеллектом, с вездесущими точками доступа, позволяющими нам подключаться к проворным сетям искусственной памяти. Даже с имплантатами, большая часть знаний, к которым мы получим доступ, будет находиться не в "модернизированных" мозгах киборгов, а удаленно - в банках серверов. В один миг, от запуска до ответа, каждый поиск Google теперь проходит в среднем около 1500 миль до центра обработки данных и обратно и использует около 1000 компьютеров. Однако зависимость от сети также означает наличие новых уязвимостей. Разрушение любой из паутины отношений, от которой зависит наше благополучие, такой как пища или энергия, стало бы бедствием. Без еды, которую мы голодаем, без энергии, которую мы прячемся на холоде. И именно через повсеместную потерю памяти цивилизации рискуют погрузиться в надвигающуюся темную эпоху.
Но, даже если можно сказать, что машина думает, люди и машины будут думать по-другому. У нас есть противодействующие силы, даже если машины часто не более объективны, чем мы. Работая вместе в командах "Человек-Интеллект", мы можем играть в шахматы на высшем уровне и принимать лучшие медицинские решения. Так почему же не следует использовать умные технологии для улучшения обучения студентов?
Технологии потенциально могут улучшить качество образования, значительно расширить доступ к нему и способствовать развитию творческих способностей и повышению благосостояния человека. Многие люди по праву чувствуют, что стоят в каком-то ограниченном культурном пространстве, на пороге великих перемен. Возможно, в конечном итоге педагоги научатся становиться лучшими учителями в союзе с партнерами по ИИ. Но в образовательной среде, в отличие от совместных шахмат или медицинской диагностики, ученик еще не является экспертом по содержанию. ИИ как всезнайка может легко стать костылем, в то же время создавая учеников, которые думают, что они могут ходить сами по себе.
Как показывает опыт моего друга-физика, память может адаптироваться и развиваться. Некоторая часть этой эволюции неизменно предполагает забывание старых путей, чтобы высвободить время и пространство для новых навыков. При условии, что старые формы знаний сохраняются где-то в нашей сети, и могут быть найдены, когда они нам понадобятся, возможно, они на самом деле не забыты. Тем не менее, со временем одно поколение постепенно, но бесспорно, становится чужим для другого.