Автор: профессор Роуз Лакин
Здесь я сосредоточусь на эссе Алекса Имаса в его Substack: «Призраки электричества», посвященном дальнейшему развитию дискуссии об искусственном интеллекте. Имас — поведенческий экономист из Чикагской школы бизнеса имени Бута. Вскоре после публикации эссе Google DeepMind объявила его своим первым директором по экономике общего искусственного интеллекта. Он присоединяется к Ронни Чаттерджи и Джейсону Фурману в OpenAI, группе из десяти экономистов, собранной Anthropic, и к более широкой тенденции, которую Дарон Асемоглу обозначил в MIT Technology Review в прошлом месяце. Передовые лаборатории ИИ сейчас инвестируют в серьезный экономический анализ того, как продвинутый ИИ влияет на рынок труда, богатство и институты. Частично это защитная реакция на общественную обеспокоенность по поводу рабочих мест. Но это также сдвиг в том, как возможности ИИ рассматриваются внутри лабораторий, которые его создают.
Центральный вопрос Имаса — это вопрос, который экономисты задают всегда. Что становится дефицитным? Когда ИИ делает широкий спектр человеческого производства дешевле, общество не перестает потреблять. Оно перераспределяет расходы. Как показывают данные, это перераспределение происходит в сторону того, что Имас называет реляционным сектором: товары и услуги, ценность которых неотделима от человека, их предоставляющего. Он называет их прямо: учителя, медсестры, работники детских садов, тренеры, работники сферы гостеприимства, священнослужители, гиды.
Эмпирические данные, представленные в эссе, интересны. Имас и Грейлин Мандель провели исследование художественных гравюр, варьируя только предполагаемое участие ИИ. Стоимость гравюр, созданных человеком, выросла на 44% благодаря эксклюзивности (один экземпляр против множества). Стоимость гравюр, созданных ИИ, выросла всего на 21%. Само по себе использование ИИ создавало ощущение воспроизводимости печатного материала, а воспроизводимость снижает ценность, которая возникает благодаря тому, что вещь связана с конкретным человеком, в конкретных отношениях, в конкретное время.
Образование — это реляционный товар именно в этом смысле. Дорогая частная школа продает не контент. Она продает учителя, который знает ребенка, группу, рядом с которой этот ребенок сидит, и учреждение, чья репутация делает эту группу значимой. Пол Леблан уже некоторое время выдвигает подобную аргументацию. Теперь Имас придает ей экономическое обоснование.
Стандартное опасение по поводу ИИ в образовании связано с вытеснением: ИИ заменяет учителя. Эссе Имаса предполагает другой и, возможно, более серьезный риск. ИИ не обязательно должен заменять учителя, чтобы нанести ущерб реляционному товару. Ему достаточно лишь проникнуть в него. Если участие ИИ становится видимым в проверке работ, обратной связи, беседах с учениками, воспитательных записках, планировании уроков, то предложение человеческого фактора в образовании начинает выглядеть более воспроизводимым. Премия за эксклюзивность, поддерживающая уникальную ценность учителей-людей, начинает ослабевать. Реляционное благо незаметно превращается в товар.
Это скорее обостряет, чем решает вопрос о месте ИИ в образовании. Это говорит нам о том, что реляционное ядро должно оставаться видимым и неотъемлемо человеческим. Это не говорит нам о том, какие задачи считаются реляционным ядром, а какие являются товарными издержками, которые ИИ должен взять на себя. Это различие – задача, которую необходимо решить, и это вызов, на который все больше должна отвечать грамотность в области ИИ на институциональном уровне.
Экономический аргумент работает и в обратную сторону. Если человеческий элемент – это то, что ИИ не может превратить в товар, то учителя, медсестры, сиделки и преподаватели не являются уязвимым местом экономики ИИ. Именно там экономика ИИ окажется – в сфере расходов и занятости. Сектор обучения и образования – это не остаточная категория экономики ИИ. Это ее центр, обладающий высоким спросом.
Для специалистов в области обучения: вот вопрос, который стоит обсудить на следующем совещании по стратегии ИИ: где в этом учреждении важен человеческий фактор? И где, напротив, автоматизация является услугой для основного реляционного ядра, а не его заменой? Ответ будет разным в разных учреждениях. Но вопрос остается тем же.
Экономисты приходят в лаборатории
До недавнего времени доминирующими голосами в лабораториях ИИ были технические специалисты: инженеры, исследователи моделей, группы по безопасности. В этом году произошел сдвиг: теперь в помещениях присутствуют и экономисты, не в качестве комментаторов, а в качестве сотрудников. Имас из DeepMind. Чаттерджи и Фурман из OpenAI. Десять экономистов собрались в Anthropic. Асемоглу, пишущий в MIT Technology Review, рассматривает эту тенденцию как реакцию лабораторий на общественную обеспокоенность по поводу рабочих мест. Это лишь часть проблемы. Более широкий момент заключается в том, что вопрос о том, как ИИ влияет на экономику, теперь рассматривается учреждениями, разрабатывающими эту технологию, как вопрос, имеющий отношение к инженерным аспектам, а не только к политике.
Это важно для преподавателей, потому что рамки, в которых лаборатории обсуждают ИИ в обществе, становятся всё более экономически грамотными. Категории, используемые экономистами (эластичность дохода, структурные изменения, доля труда, болезнь издержек Баумола), вероятно, начнут появляться в языке, который лаборатории используют для описания своих собственных технологий, и в языке, который политики используют для их регулирования. Мы должны быть готовы к этому разговору.
Аргумент Имаса, если говорить проще:
Аргумент состоит из трех шагов.
Во-первых, когда технология делает определенную категорию продукции значительно дешевле, общество не перестает потреблять то, что эта категория производит. Оно перераспределяет расходы. Люди не стали меньше есть, когда сельское хозяйство стало более эффективным. Они перераспределили деньги, которые раньше тратили на еду, на другие вещи. Сельское хозяйство сократилось с примерно 40% рабочей силы США в 1900 году до менее чем 2% сегодня, в то время как потребление продуктов питания выросло. Классическая модель структурных изменений привела к перемещению рабочей силы из ферм на заводы, а затем в сферу услуг.
Во-вторых, по мере обогащения люди перераспределяют ресурсы не только на большее количество вещей. Это товары и услуги с более высокой эластичностью спроса по доходу: категории, доля потребления которых растет быстрее, чем растет доход. Комин, Лашкари и Местьери подсчитали, что этот эффект дохода объясняет более 75% исторических моделей структурных изменений. Ценовой эффект (стандартная теория о том, что автоматизированные товары дешевеют, поэтому люди покупают другие вещи) объясняет лишь около четверти. Более важным фактором является то, что по мере роста благосостояния люди хотят принципиально разных вещей.
В-третьих, эластичность спроса на эти товары по доходу обусловлена не только их стоимостью. Она связана с их человеческим происхождением. Опираясь на работы Рене Жирара, Имас утверждает, что миметическое желание (идея о том, что наши желания формируются желаниями других, особенно когда другие не могут этого получить) сравнительно и, следовательно, трудно утолить. Исключительность, делающая что-то желанным, — это именно то, что нельзя производить массово. Рука на странице, личная записка на чашке, учитель, знающий ребенка по имени: все это сопротивляется товарной форме, и именно это сопротивление придает им экономическую ценность.
Результаты исследования Манделя
Компания Имаса провела эксперимент с участием Грейлин Мандель, посвященный художественным гравюрам, что является важным эмпирическим результатом для нашего сектора.
Испытуемым показывали идентичные художественные гравюры, но описание было различным. В некоторых условиях гравюра описывалась как созданная человеком, в других — как созданная искусственным интеллектом. В некоторых условиях существовал только один экземпляр; в других гравюра была воспроизводимой. Результаты по готовности платить поразительны.
Стоимость гравюр, созданных человеком, выросла на 44%, когда они были эксклюзивными (один экземпляр), по сравнению с неэксклюзивными (много экземпляров). Стоимость гравюр, созданных искусственным интеллектом, выросла всего на 21% в тех же условиях. Само участие ИИ создавало ощущение воспроизводимости гравюры, даже когда испытуемым прямо говорили, что количество экземпляров одинаково. Участие ИИ снизило премию за эксклюзивность более чем вдвое.
Это не означает, что работы, созданные искусственным интеллектом, не имеют ценности. Дело в том, что участие ИИ сигнализирует о воспроизводимости, а воспроизводимость снижает ценность, которая возникает благодаря тому, что вещь связана с конкретным человеком, в конкретных отношениях, в конкретное время.
Образование как реляционный товар
Образование всегда было, отчасти, реляционным товаром. Учитель, который знает ребенка, группа, рядом с которой этот ребенок учится, учреждение, чья репутация делает эту группу значимой. Пол Леблан уже некоторое время выдвигает аналогичную точку зрения, утверждая, что школы продают не передачу контента, а формирование личности. Имас придает этому аргументу экономическое обоснование. Эластичность дохода от образования, по крайней мере в его более избирательных и формирующих формах, высока именно потому, что человеческий фактор является неотъемлемой частью.
Именно поэтому самые престижные школы и университеты продолжают получать высокую цену, которую не снижает передача контента с помощью ИИ. Школа, получающая 30 тысяч фунтов в год, продает не контент. Она продает учителя, группу, учреждение и формирование личности, которое эти три составляющие создают вместе. Урок Khan Academy, как бы хорошо он ни был разработан, не вытесняет то, что предлагают эти школы, потому что то, что предлагают эти школы, — это не сам урок.
И это касается не только самых престижных учреждений. Та же логика прослеживается и на более низких уровнях цен, чем показывает пример с элитными платами. Причина, по которой семьи и учащиеся выбирают конкретную школу, конкретный колледж, конкретного поставщика услуг профессионального обучения, конкретный университет, в значительной степени заключается в человеческом факторе этих учреждений. Содержание пересекается. Отношения — нет.
Риск, о котором нам следует задуматься
Стандартное опасение по поводу ИИ в образовании связано с вытеснением: ИИ заменяет учителя. Аргумент Имаса указывает на другой и, возможно, более серьезный риск. ИИ не обязательно должен заменять учителя, чтобы нанести ущерб благу, основанному на взаимоотношениях. Ему достаточно лишь проникнуть в него.
Результат исследования Манделя является моделью того, что происходит в этом случае. Когда испытуемые считали, что ИИ участвовал в создании печатного материала, премия за эксклюзивность рухнула, даже несмотря на то, что сам печатный материал был идентичен. Сигнала участия ИИ было достаточно, чтобы превратить благо, основанное на человеческом происхождении, в нечто, что ощущалось как воспроизводимое.
Для школ и университетов аналогичный сбой происходит напрямую. Реляционная основа учреждения (формирующие отношения, опыт взаимодействия в группе, пастырская жизнь под руководством человека, выставление оценок, обратная связь, беседы на занятиях, планирование уроков, определяющее то, с чем сталкивается ученик) начинает заметно поддерживаться, дополняться или создаваться искусственным интеллектом. На каждом из этих этапов участие ИИ рационально само по себе. Оно экономит время. Оно облегчает рабочую нагрузку. Оно поддерживает уставших учителей. Но каждый из этих аспектов находится внутри той реляционной основы, за которую учреждение на самом деле ценится.
Если в совокупности участие ИИ становится видимым в этих областях, предложение учреждения начинает выглядеть более воспроизводимым. Премия за эксклюзивность начинает снижаться. Не потому, что кто-то сделал что-то не так. Потому что изменился сигнал. Реляционное благо незаметно превращается в товар.
Это не аргумент против использования ИИ в образовании. Это аргумент в пользу того, что место ИИ внутри учреждения — это стратегический вопрос, а не оперативный. В эссе Имаса говорится, что ядро отношений должно оставаться видимым и неотъемлемо человечным. В нем не указывается, где проходит эта граница. Задача состоит в том, чтобы определить для каждого конкретного учреждения, что считается ядром отношений (которое ИИ не должен трогать, кроме как в интересах этого ядра), а что считается товарными издержками (поглощение которых ИИ является услугой для этого ядра, а не его заменой).
Что следует далее для политики и учебных программ
Экономический аргумент также направлен в противоположную сторону. Если человеческий фактор — это то, что ИИ не может превратить в товар, то люди, несущие человеческий фактор в обществе (учителя, медсестры, сиделки, тренеры, наставники), не являются уязвимым местом экономики ИИ. Именно на них экономика ИИ и ляжет в основу — в сфере расходов и занятости. Это делает одновременно верными две вещи.
Давление на существующие профессиональные структуры реально, задокументировано и усиливается. В новостном обзоре News Skinny Scan это подробно освещается: сокращение Standard Chartered на 8000 сотрудников, которое генеральный директор назвал «менее ценным человеческим капиталом», сокращение Cloudflare на 20% из-за 600-процентного роста использования ИИ, проект плана развития кадровых ресурсов NHS, предлагающий сокращение на сотни тысяч сотрудников, проект McKinsey Project Acorn, переориентирующий оплату труда партнеров на акции, и количество вакансий специалистов по ИИ в компаниях «большой четверки» сейчас более чем в два раза превышает количество вакансий в аудиторских фирмах. Эти изменения реальны.
И долгосрочный спрос на категории, лежащие в основе межличностных отношений (обучение, забота, образование, гостеприимство), если Имас прав, структурно возрастает. Сектор обучения и образования — это не остаточная категория экономики ИИ. Это её центр, обладающий высоким спросом. Для политики это означает, что планирование рабочей силы, рассматривающее межличностные профессии как затраты, которые нужно контролировать, имеет обратную экономическую точку зрения. Именно в эти категории перераспределяются расходы и занятость.
Для разработки учебных программ последствия ещё более очевидны. Грамотность в области ИИ, которая готовит учащихся к кодифицируемым когнитивным задачам, готовит их к той части рынка труда, которую ИИ заменяет наиболее непосредственно. Грамотность в области ИИ, которая готовит учащихся к работе, где их суждения, внимание, память, теплота или присутствие являются частью ценности, готовит их к той части рынка труда, куда ИИ не может проникнуть. Данные Королевского общества и TeacherTapp, опубликованные этой весной, показали, что навыки, которые большинство учителей считают наименее эффективными для обучения (оценка доказательств, ограничения моделей, этическое мышление), — это именно те навыки, которые могли бы подготовить учащихся к работе в этом секторе экономики.
Что с этим делать?
Два момента, которые я бы предложил любому читателю обдумать.
Первый — это использовать концепцию Имаса-Манделя в обсуждениях стратегии ИИ в вашей школе, университете и учебном заведении и задать вопрос, который она позволяет задать. Где в этом учреждении важен человеческий фактор? И где автоматизация является услугой для реляционного ядра, а не его заменой? Ответ будет разным в разных учреждениях. Но вопрос один и тот же, и учреждения, которые первыми найдут ответ, смогут более четко объяснить его родителям, ученикам и своим сотрудникам, чем те, кто этого не сделает.
Второй — это использовать результаты исследования Имаса-Манделя (падение с 44% до 21%) в самом обучении грамотности в области ИИ. Это эмпирическое доказательство, которое отражает нечто тонкое и важное в том, как ИИ меняет ценность человеческого труда. Оно должно быть включено в учебную программу и в дискуссию о том, почему работа, имеющая человеческое происхождение, — это не роскошь или ностальгия, а та часть экономики, которая растет по мере того, как остальная часть становится дешевле.
Передовые лаборатории все чаще прислушиваются к экономистам. Образование — одна из категорий, которая, по мнению экономистов, имеет наибольшее значение. Мы должны быть готовы обосновать, что такое образование на самом деле, в терминах, понятных экономисту. Происхождение. Формирование. Исключительность. Человек, который является не просто элементом производственного процесса, но и частью ценности.
Человеческое происхождение имеет значение.