Автор Бен Уильямсон
После нескольких месяцев ажиотажа по поводу потенциала искусственного интеллекта в образовании появляются признаки того, что такие технологии, как языковые модели, могут реально интегрироваться в практику преподавания и обучения. В то время как мечты об автоматизации в образовании имеют очень долгую историю, нынешняя волна приложений «генеративного ИИ» — автоматических производителей текста и изображений — привела к излиянию восторженных комментариев, политической деятельности и спекуляциям об инвестициях в образовательные технологии, а также к учебникам для начинающих и руководствам для педагогов и курсам повышения квалификации для преподавателей. Генеративный ИИ в образовании, как предполагает вся эта деятельность, сам по себе будет генерировать новые педагогические практики, когда учитель может иметь помощника «второго пилота», который руководит их педагогической рутиной, а учащиеся могут участвовать в новых режимах изучения и обучения, поддерживаемых автоматизированными системами репетитор-ботов».
«У каждого ребенка будет наставник по ИИ, который бесконечно терпелив, бесконечно сострадателен, бесконечно осведомлен и бесконечно готов помочь», — написал венчурный инвестор Марк Андриссен в одном из самых преувеличенных примеров недавней активной инвестиционной пропаганды ИИ. «Репетитор по ИИ будет рядом с каждым ребенком на каждом этапе его развития, помогая ему максимально раскрыть свой потенциал с помощью машинной версии бесконечной любви».
Но что, если вместо того, чтобы способствовать образовательным преобразованиям, ИИ в образовании окажется дегенеративным — ухудшая, а не улучшая методы работы в классе, образовательные отношения и более широкие системы школьного образования? История технологий говорит нам, что ни одна технология никогда не работает полностью так, как задумано, и при этом она не просто нейтральный инструмент для достижения выгодных целей. ИИ, как и все технологии, имеет более давние исторические корни, которые определяют его развитие и задачи, которые он должен выполнять, и часто приводят к непредвиденным, а иногда и пагубным последствиям. Нынешние воплощения ИИ пронизаны своего рода политикой, которая применяет технические и рыночные решения для всех социальных проблем.
Несмотря на признательность за некоторые современные творческие и критически обоснованные размышления о генеративном ИИ в образовании, еще предстоит решить вопросы о его возможных долгосрочных последствиях. Важная работа по этике, вреду, социальным и экологическим последствиям использования ИИ в образовании уже появилась, и она должна оставаться предметом неотложного обсуждения, а не ограничиваться узкими заявлениями о неизбежности. Здесь я исследую идею дегенеративного ИИ в образовании с трех сторон: дегенеративный ИИ как (1) удаляющие экспериментальные системы, (2) чудовищные системы и (3) масштабируемые системы, ищущие арендной платы.
Удаляющие экспериментальные системы
Многие генеративные приложения ИИ в образовании остаются спекулятивными, но один прототип автоматизированного робота-наставника уже начал внедряться в школах. Некоммерческая организация онлайн-обучения Khan Academy создала персонализированный обучающий чат-бот под названием Khanmigo, который, как утверждается, может выступать в качестве репетитора для учеников и помощника для учителей.
Журналист New York Times Наташа Сингер сообщила о первых пилотных испытаниях Khanmigo в школьном округе США, предполагая, что округ «по сути вызвался стать подопытным кроликом для государственных школ по всей стране, которые пытаются увидеть разницу между практическим использованием новых тьютор-ботов на основе ИИ и их маркетинговыми обещаниями». Результаты кажутся смешанными.
Представление Khanmigo рассматривается как пилотное испытание, а студенты как подопытные кролики для обучения ИИ. Недавно Карло Перротта заявил, что педагоги, похоже, присоединяются к «социальному эксперименту», в ходе которого кодифицированные системы образования — педагогика, учебная программа и оценивание — перестраиваются с помощью ИИ, что требует от педагогов кропотливых усилий по корректировке своей профессиональной практики. Этот педагогический труд, как предположил Перротта, в первую очередь означает, что учителя помогают генеративному ИИ бесперебойно функционировать.
Эксперимент Khanmigo иллюстрирует кропотливые усилия, которые требуются от учителей для поддержки генеративного ИИ. Учителя в отчете NYT продолжали сталкиваться с проблемами — например, репетитор-бот давал прямые ответы, когда учителя хотели, чтобы ученики решили проблемы, — а Академия Хана отвечала, что они исправили или исправили эти проблемы (ошибочно по крайней мере в одном случае).
Это поднимает два вопроса. Во-первых, это возможная когнитивная разгрузка и снижение умственных усилий или навыков решения проблем, которые может повлечь за собой генеративный ИИ. ИИ может оказывать дегенеративное воздействие на само обучение. Говоря более прозаически, ИИ, скорее всего, воспроизведет худшие аспекты школьного обучения — стандартизированное эссе уже сильно ограничено требованиями режимов оценивания, а языковые модели, как правило, воспроизводят его по формату и содержанию.
Вторая проблема — это то, что Перротта описал в терминах «разделение обучения»: термин Шошаны Зубофф, обозначающий различие между организациями ИИ с «материальной инфраструктурой и экспертными умственными способностями» для обучения на основе данных и точной настройки моделей и процессов, и неоплаченные усилия обычных пользователей, чье взаимодействие с системами возвращается в их постоянное развитие.
В другом месте Дженна Баррелл и Марион Фуркад проводят различие между «программистской элитой», новым профессиональным классом технических специалистов, и новой маргинализованной или неоплачиваемой рабочей силой, «кибертариатом», из которого он извлекает рабочую силу. В случае с Khanmigo инженеры и руководители Академии Хана представляют собой новую элиту кодирования ИИ в образовании, извлекая труд учителей и студентов кибертариата в классе.
ИИ может в долгосрочной перспективе оказать дальнейшее дегенеративное давление на практику и отношения в классе. Это одновременно требует дополнительного бесплатного труда учителей и извлекает из этого ценность. ИИ и другие прогностические технологии также могут, как утверждает Сун-ха Хонг, лишать профессионалов свободы действий, изменяя или даже ограничивая их процесс принятия решений и возможности профессионального суждения. В экспериментальном случае Khanmigo независимая власть учителя также, по крайней мере, частично удалена или, по крайней мере, осложнена присутствием робота-наставника.
Чудовищные системы
Эксперимент Академии Хана особенно важен, потому что Khanmigo был создан путем интеграции с OpenAI GPT-4. В конечном итоге это означает, что тьютор-бот представляет собой интерфейс к языковой модели OpenAI, который позволяет боту генерировать персонализированные ответы ученикам. Есть даже сообщения о том, что партнерство может стать основой планов OpenAI по созданию целой Академии OpenAI — альтернативы государственному образованию на основе GPT.
Сэм Альтман и Салман Хан из OpenAI склонны оправдывать свой интерес к персонализированным обучающим приложениям ссылкой на влиятельное исследование в области образования, опубликованное в 1984 году, — проблему двух сигм Бенджамина Блума.
Это основано на наблюдении, что учащиеся, получающие индивидуальное обучение, в среднем на 2 стандартных отклонения выше по показателям успеваемости, чем учащиеся в обычном групповом классе. Проблема заключается в том, как добиться тех же результатов, когда индивидуальное обучение «слишком дорого для большинства обществ, чтобы его можно было использовать в больших масштабах». Сам Блум предположил, что «курсы компьютерного обучения» могут «позволить значительному количеству студентов достичь эффекта достижений 2 сигм».
В недавнем разговоре о «преобразующем» потенциале новых приложений ИИ для образования Сэм Альтман заявил:
Разница между обучением в классе и индивидуальным репетиторством подобна двум стандартным отклонениям — невероятная разница. Большинство людей просто не могут позволить себе индивидуальное обучение… Если мы сможем совместить индивидуальное обучение каждого ребенка с вещами, которые может дать только учитель-человек, с такой поддержкой, я думаю, что эта комбинация просто исчезнет. быть невероятным для образования.
Это отразило еще более явное обращение Хана к модели Блума в недавнем выступлении на TED Talk об использовании ИИ для «спасения образования», где он также объявил о Khanmigo.
Модель Блума подчеркивает подход к образованию, называемый «мастерским обучением», поэтапный подход, который включает в себя циклы обучения, формирующую оценку и обратную связь, чтобы убедиться, что учащиеся освоили ключевые понятия, прежде чем переходить к следующей теме. Для таких предпринимателей, как Альтман и Хан, влияние достижения двух сигм на мастерское обучения считается осуществимым с помощью персонализированных обучающих роботов, которые могут обеспечить необходимое индивидуальное обучение по низкой цене и в больших масштабах.
Мари Хит и ее коллеги недавно заявили, что в образовательных технологиях чрезмерно преобладают психологические концепции индивидуального обучения, и поэтому они не учитывают социальные детерминанты образовательных результатов или опыта учащихся. Этот индивидуальный психологический подход к обучению только усугубляется системами персонализированного обучения на основе ИИ, основанными на понятиях мастерства и его статистического измерения. Цель достижения эффекта двух сигм также отражает предположение отрасли ИИ о том, что человеческий интеллект — это индивидуальная способность, которую, следовательно, можно улучшить с помощью технических решений, таких как репетиторы-роботы, а не чего-то, сформированного образовательной политикой и учреждениями.
Более того, персонализированные обучающиеся боты, придуманные Ханом, Альтманом и многими другими, вряд ли будут работать так, как они предлагают. Это потому, что каждый раз, когда они делают вызов API к языковой модели для получения контента в ответ на запрос учащегося, они используют огромные резервы информации, которые, скорее всего, загрязнены прошлой дезинформацией или предвзятыми и дискриминационными материалами, и, возможно, могут стать еще больше. так как автоматизированный контент наводняет сеть. Как написал Сингер в отчете NYT,
Сторонники утверждают, что классные чат-боты могут демократизировать идею репетиторства, автоматически настраивая ответы ученикам, позволяя им работать на уроках в своем собственном темпе. Критики предупреждают, что боты, обученные на обширных текстовых базах данных, могут фабриковать правдоподобно звучащую дезинформацию, что делает их рискованной ставкой для школ.
Как и все языковые модели, репетитор-боты будут «двигателями плагиата», собирающими старые тексты в новые формы и, возможно, дезинформацией при замене авторитетных учебных материалов.
Возможно, еще более драматично писатель-фантаст Брюс Стерлинг назвал языковые модели «зверями». «Большие языковые модели удивительно похожи на монстра Франкенштейна Мэри Шелли, — писал Стерлинг, — потому что они представляют собой большой, сшитый набор множества маленьких мертвых кусочков, через которые проходит некоторое напряжение, которые могут бодрствовать на поверхности и говорить».
Эти чудовищные системы дезинформации могут привести к тому, что Мэтью Киршенбаум назвал «текстпокалипсисом» — будущим, захваченным текстом, сгенерированным искусственным интеллектом, в котором человеческое авторство будет уменьшено, а все формы авторитета и смысла подвергнутся риску.
«Теперь легко представить себе установку, в которой машины могли бы побуждать другие машины выводить текст до бесконечности, наводняя Интернет синтетическим текстом, лишенным человеческого участия или намерения: серая слизь, но для написанного слова», — предупредил он.
Трудно представить какое-либо значимое решение проблемы двух сигм Блума, когда освоение концепции может быть поставлено под угрозу из-за серой слизи, выплевываемой в ответ студенту персонализированным обучающим тьютор-ботом. Однако ИИ потенциально ценен в других отношениях.
Масштабируемые системы, ищущие арендной платы.
Одна из наиболее поучительных частей отчета Наташи Сингер о тестах Khanmigo в школах заключается в том, что, хотя школы, которые в настоящее время тестируют его, делают это без платы, это не останется таковым после пилотного теста. «Участвующие округа, желающие провести пилотное тестирование Khanmigo в предстоящем учебном году, будут платить дополнительную плату в размере 60 долларов США за каждого учащегося», — сообщил Сингер, отметив, что Академия Хана заявила, что «затраты на вычисления для A.I. модели были «значимыми»».
Похоже, здесь есть симметрия с бизнес-моделью OpenAI.
OpenAI стремилась стать первопроходцем в гонке генеративного ИИ, запустив ChatGPT бесплатно для публики в конце 2022 года, а затем введя оплату по подписке. Сэм Альтман охарактеризовал операционные расходы как «сногсшибательные». Еще одна стратегия монетизации — интеграция моделей ИИ со сторонними платформами и сервисами. Похоже, что благодаря интеграции Khanmigo с GPT-4 его «значительные» вычислительные затраты будут покрываться за счет взимания с государственных школ годовой абонентской платы в размере 60 долларов на одного учащегося.
Другими словами, Khan Academy, похоже, разрабатывает бизнес-модель для получения оплаты за аренду Khanmigo, где школы помогают покрывать эксплуатационные расходы моделей ИИ. Это отражает растущую тенденцию в индустрии образовательных технологий к моделям капитализации рантье, когда компании взимают экономическую ренту с образовательных учреждений в форме постоянной подписки на цифровые услуги и могут также извлекать дополнительную выгоду из извлечения данных об использовании.
Тем не менее, согласно отчету Сингера, школы, платящие за аренду Khanmigo, не могут быть жизнеспособной долгосрочной стратегией.
Смогут ли школы позволить себе репетиторов-роботов с искусственным интеллектом, еще неизвестно. … Финансовые препятствия предполагают, что классные чат-боты с улучшенным ИИ вряд ли демократизируют репетиторство в ближайшее время.
Г-н Неллегар, технический директор Ньюарка, сказал, что его округ ищет внешнее финансирование, чтобы помочь покрыть расходы на Khanmigo этой осенью.
«Долгосрочные затраты на ИИ вызывает у нас озабоченность», — сказал он.
В нынешних условиях, когда школы, похоже, все чаще вынуждены опробовать новые автоматизированные услуги, учреждения, платящие за аренду образовательных технологий, могут привести к новым финансовым проблемам и проблемам сбора средств в школьном секторе, даже несмотря на то, что это повышает рыночную стоимость ИИ в образовании. Пример Khanmigo, по-видимому, указывает на значительное отвлечение государственных средств на покрытие затрат на вычисления ИИ, что может привести к отвлечению финансовых обязательств школ на технологические решения за счет других услуг или программ. В этом смысле ИИ в образовании может повлиять на способность школ покрывать другие расходы в то время, когда многие сталкиваются с условиями жесткой экономии и недофинансирования.
Между этими финансовыми договоренностями и персонализированным подходом к обучению, вдохновленным Блумом, существует парадокс. Как заметил сам Бенджамин Блум, масштабное индивидуальное обучение слишком дорого для школьной системы. Энтузиасты ИИ регулярно предполагают, что платформы персонализированного обучения, такие как Khan Academy, могут решить эту проблему масштабируемости при низких затратах. Но, как ясно дает понять Khanmigo, масштабируемые персонализированные роботы-репетиторы сами по себе могут истощать государственные финансовые ресурсы школ. Таким образом, ИИ может не решить проблему затрат на крупномасштабное индивидуальное обучение, но воспроизвести и усилить их из-за вычислительных затрат на масштабирование ИИ. Оказание давления на финансы школ с недостаточным финансированием, как отметил Сингер, не похоже на демократизацию репетиторства, но это может быть путем к долгосрочному доходу для компаний, занимающихся искусственным интеллектом.
Резистивные и жизне устойчивые системы
Генеративный ИИ может оказаться полезным в некоторых образовательных контекстах и для определенных образовательных задач и целей. Школы могут быть правы, если опробуют его, но с осторожностью, учитывая, что его преимущества были только предсказаны, а не доказаны. По-прежнему важно обращать внимание на его фактические и потенциальные дегенеративные эффекты. Помимо дегенеративных эффектов, которые он может оказывать на профессиональные условия учителей, на содержание обучения и на финансовую устойчивость школ, как я уже говорил, ИИ также оказывает дегенеративное воздействие на окружающую среду и влияет на условия труда «скрытых» работников на глобальном Юге, которые помогают обучать генеративные модели.
Это равносильно тому, что Дэн МакКуиллан называет «экстрактивным насилием», поскольку «требование низкооплачиваемых рабочих для маркировки данных или обработки выходных данных сопоставляется с колониальными отношениями власти, в то время как его расчеты требуют умопомрачительных уровней вычислений и, как следствие, выбросов углерода». которые угрожают усугубить планетарную деградацию. В образовательном контексте «любой энтузиазм по поводу более широкого использования ИИ в образовании должен учитывать материальность этой технологии и ее пагубные последствия для планеты» и рабочих, скрытых за машинами.
Ажиотаж вокруг приложений ИИ, таких как языковые модели, «является стресс-тестом возможности реальной критики, поскольку академические круги захлестывает бурлящий поток неуверенности в себе по поводу того, следует ли их неохотно ассимилировать», — утверждает Дэн МакКуиллан. Смирение с искусственным интеллектом как неизбежной чертой будущего образования опасно, поскольку оно может привести к тому, что образовательные учреждения, персонал и студенты будут привязаны к техническим системам, которые могут усугубить, а не улучшить существующие социальные проблемы, такие как переутомление учителей, ухудшение возможностей обучения. и недофинансирование школ. Предложение Маккуиллана состоит в том, чтобы сопротивляться нынешним формациям ИИ. «Исследователи и общественные движения не могут ограничиваться реагированием на механизмы ИИ, им необходимо создавать социальные лаборатории, которые прообразуют альтернативные социотехнические формы». Учитывая, что модели ИИ OpenAI в настоящее время тестируются в классных лабораториях через Академию Хана, какие альтернативные социальные лаборатории могут создать педагоги, чтобы построить более резистивные и жизне устойчивые образовательные системы, чем те, которые настроены дегенеративным ИИ?
