Профессор Роуз Лакин отвечает на три актуальных вопроса об ИИ в образовании.
Использование данных и технологий для определения результатов экзаменов
Понятно, что было много споров по поводу использования алгоритмов для определения результатов Международного бакалавриата, который сдается в более чем 150 странах, а также экзаменов уровня A level и GCSE по английскому языку. Итак, может ли ИИ быть полезным для такого рода задач? Да, хорошо спроектированный ИИ может помочь людям принимать сложные решения об оценках на экзамене, но он должен быть хорошо продуман. Это означает, что мы должны очень внимательно следить за тем, чтобы данные, которые обрабатывает алгоритм, а также сам алгоритм были тщательно протестированы, справедливы и беспристрастны. Кроме того, весь пакет: данные и алгоритм также должны быть понятны людям, которых они затрагивают.
Если мы возьмем пример оценок уровня A, орган, регулирующий экзамен Ofqual, обнародовал некоторые детали процесса, который он использовал для принятия решений об оценках. Мы видим, что орган, регулирующий экзамен, хотел убедиться, что оценки 2020 года имеют такое же значение, что и оценки, выставленные в предыдущие годы, другими словами, чтобы стандартизировать оценки.
Учителей попросили предоставить прогнозируемую оценку для каждого ученика на каждом экзамене и расположить своих учеников по каждому предмету. Эти данные вместе с другими данными об успеваемости в школе, которую посещал ученик, были использованы для тестирования некоторых из доступных моделей статистической стандартизации. Ofqual выбрал алгоритм модели Direct Center Performance Model (DCP - Алгоритм прямых показателей качества работы центра), потому что он работал точно при использовании данных за предыдущие годы для прогнозирования оценок и его было легко последовательно реализовать. Алгоритм DCP прогнозирует оценки для каждой школы или колледжа на основе исторической успеваемости в этой школе или колледже, скорректированной с учетом любых изменений в предыдущей успеваемости учащихся этого года по сравнению с учениками предыдущих лет в этой школе или колледже.
Так сработал ли этот подход? Что ж, официальная статистика Ofqual показывает, что результаты уровня A в классе A и выше в Англии увеличились на 2,4% по сравнению с 2019 годом, и что 96,4% выставленных заключительных оценок были такими же или в пределах одной оценки оценки, поставленной учителем. Однако за этой общей позитивностью скрывается гораздо более сложная картина больших различий между школами и колледжами. И давайте проясним: разница в оценках между оценками, выставленными и оценками, полученными учителями, может иметь большое влияние на студентов, которые поступают или не поступают в предпочтительный университет.
Цифры, опубликованные Ofqual, показывают, что 39,1% оценок уровня A были понижены по сравнению с оценками, оцененными учителем, и наибольшие различия между выставленной оценкой и оценкой, прогнозируемой учителем, наблюдались среди учеников из самых низких социально-экономических слоев. Напротив, рост числа учащихся, получивших оценки A или A * по сравнению с 2019 годом, был намного выше в независимых школах (4,9%), чем в государственных (2%).
Точные детали алгоритма еще не опубликованы, но даже сейчас ясно, что оценка учителя не играла особой роли в расчетах. Порядок ранжирования был более влиятельным, и все же учителя более опытны в предсказании оценок, чем в предсказании этого ранжирования. Влияние исторических данных искажает результаты в сторону повторения того, чего школа или колледж достигла в предыдущие годы, а не того, что ученик имеет или может достичь в текущем году. На корректировку предыдущей успеваемости учащихся этого года будет влиять разное качество данных, доступных в каждой школе или колледже.
Например, время и способ сдачи пробных экзаменов не одинаковы во всех школах и колледжах. Кроме того, когда алгоритм был протестирован на данных за предыдущие годы, учителя не могли бы иметь ранжирование, доступное для включения, таким образом, это не было истинным тестом того же алгоритмического процесса, который использовался для 2020 года. И, конечно, есть также вопрос, который могут задать некоторые, о целесообразности процесса, ставящего стандартизацию превыше всего остального в год, который был так сорван и расстроен для учеников по всей стране.
В общем, существует множество неравенств в данных, используемых алгоритмом, и есть обоснованные вопросы о легитимности самого алгоритма. Этого должно быть достаточно, чтобы мы сомневались в справедливости и точности данного алгоритмического подхода.
Однако это не означает, что алгоритмы и ИИ не могут использоваться для поддержки принятия решений при оценке решений. Что он действительно показывает, так это то, насколько сложны эти решения и насколько тщательно они должны разрабатываться, применяться и проверяться, прежде чем они будут использованы для принятия таких важных решений, как результаты экзаменов для студентов с высокими ставками.
Какие проблемы и возможности COVID-19 представил для внедрения EdTech «в классе»? Как связанные с образованием приложения AI/ML поддерживают дистанционное обучение во время пандемии?
COVID-19 изменил правила игры для внедрения образовательных технологий в школах. Персоналу и школам, которые неохотно использовали технологии, не оставалось ничего другого, кроме как «попробовать», и это был отличный способ показать учителям, учащимся и родителям, чего можно достичь с помощью образовательных технологий. Как сказал нам недавно один из руководителей школы:
Мы многому научились за этот период. Почти три года обучения персонала за три месяца, вы знаете, я не смогла бы развить персонал таким же образом, просто проводя собрания персонала сама. Таким образом, с точки зрения CPD, действительно были огромные преимущества.
Проще говоря, образовательные технологии позволили учащимся продолжать обучение со своими учителями и друзьями, даже когда они не в школе. Использование образовательных технологий во время пандемии включало использование некоторых технологий, использующих искусственный интеллект и машинное обучение. Например, системы, использующие ИИ, чтобы они могли адаптировать поддержку, оказываемую каждому учащемуся по мере его продвижения по учебной программе; системы, которые рекомендуют учителю или ученику наиболее подходящие ресурсы для обучения в зависимости от конкретных потребностей каждого учащегося, а также голосовые интерфейсы, позволяющие ученикам и учителям взаимодействовать без использования клавиатуры или сенсорного экрана.
Однако не все было положительно, и возникли некоторые чрезвычайно сложные проблемы. Вероятно, наиболее разрушительной была проблема, с которой столкнулись учащиеся из неблагополучных семей, у которых нет технологий, позволяющих их ребенку принимать участие в предоставляемом образовании. Некоторым детям также не хватает тихого места для учебы и благоприятной семейной среды.
Неизбежным результатом является то, что эти дети все больше отстают в учебе, и предстоит много работы, чтобы помочь им наверстать упущенное осенью и в будущем. ИИ действительно мог бы помочь в решении этой проблемы, работая со студентами индивидуально, чтобы диагностировать их потребности и предоставлять тщательно отобранные возможности для дополнительного обучения и важную обратную связь для учителей. Такой подход с использованием ИИ ускорит процесс наверстывания отставания и оставит больше времени для важнейших социальных и эмоционально обогащающих мероприятий, которые потребуются учащимся, а также для общения с друзьями и учителями.
К сожалению, школы, которые больше всего нуждаются в такой технологии искусственного интеллекта, не имеют доступа к этой технологии. Это ситуация, которую мы должны сделать все возможное, чтобы исправить.
Каковы самые большие этические опасности использования EdTech на основе AI / ML? Какие этические проблемы создают исторические предубеждения и дискриминация при разработке и развертывании ответственного EdTech?
Нам необходимо знать о многих опасностях - не в последнюю очередь о рисках, связанных с неиспользованием ИИ, когда он может положительно повлиять на обучение.
Однако, если мы сосредоточимся на использовании машинного обучения искусственного интеллекта, то я выделю только три области потенциального риска: во-первых, мы должны убедиться, что данные, которые используются для обучения алгоритмов ИИ, действительно репрезентативны для населения, для которого ИИ применяется. Нам также необходимо убедиться, что лицо, чьи данные используются, дало свое «осознанное» согласие на использование своих данных, и что данные хранятся в безопасности и что конфиденциальность защищена.
Требование «осознанного» согласия важно и может быть сложной задачей, потому что для того, чтобы кто-то дал свое «осознанное» согласие, он должен достаточно хорошо понимать, что будет происходить с его данными, чтобы он мог быть в состоянии быть “информированным”. Другими словами, они должны быть осведомлены об ИИ хотя бы в некоторой степени.
Во-вторых, помимо предельной осторожности в выборе данных, мы также должны убедиться, что алгоритмы, которые мы разрабатываем и используем для обработки этих данных, хорошо спроектированы и, в случае образования, написаны таким образом, что мы знаем о том, как происходит обучение человека. Одна из проблем, связанных с предвзятостью в ИИ, заключается в том, что в рабочей силе ИИ отсутствует разнообразие, и нам, безусловно, нужно делать больше, чтобы побудить больше людей из более богатого и разнообразного сообщества захотеть и иметь возможность работать в ИИ. .
Другая проблема заключается в том, что многие курсы по информатике и образованию до недавнего времени не включали достаточно информации об этике и этическом дизайне, и поэтому существует потребность в обучении, которую необходимо решить.
Наконец, есть императив ИИ. нам нужно подумать о том, для чего используется ИИ - этична ли его цель? Одни и те же данные и одни и те же алгоритмы могут использоваться для разных целей, и поэтому нам нужно тщательно продумать, почему мы используем ИИ и чего он помогает нам достичь. Например, мы можем собирать видео- и аудиоданные об обучении учащихся и использовать эти данные для обнаружения эмоциональных изменений, например, когда учащийся начинает беспокоиться, когда ему трудно учиться. Такое приложение ИИ можно было бы использовать для оказания дополнительной поддержки этим учащимся, однако его также можно было бы использовать для уменьшения их возможностей обучения, поскольку считается, что им не хватает устойчивости, когда им бросают вызов.
Каковы ваши прогнозы на учебный класс 2030 года?
Я надеюсь, что класс 2030 года будет тем, где ИИ и человеческий интеллект будут работать в гармонии, чтобы обеспечить наилучшую поддержку каждому учащемуся. Я хотела бы видеть Интеллектуальную Основу для образования. Это поможет нам достичь ситуации, когда в классе используются гораздо менее заметные технологии, а учащиеся проводят меньше времени за экраном и больше общаются с людьми.
Интеллектуальная основа поможет учителям организовать совместное решение проблем и проектную работу. Она также позволит беспрепятственно учиться в школе, дома и в школе, чтобы мы были более устойчивы к непредвиденным обстоятельствам, таким как COVID-19. И, конечно же, интеллектуальная основа позволит сделать лучшие учебные ресурсы доступными для всех учащихся наиболее подходящим способом для каждого учащегося, класса, года обучения или учреждения.
Интеллект мог бы предлагать и выбирать ресурсы на основе детального знания потребностей каждого учащегося, и он мог бы предоставить учителям очень конкретную обратную связь о том, где именно каждый из их учеников преуспевает и где именно им нужна помощь.
Но больше всего я надеюсь, что мы осознаем, что мы должны сосредоточить наши системы образования на развитии нашего человеческого интеллекта. В частности, развитие наших очень человеческих способностей, тех, которые нельзя автоматизировать, тех, которые помогают нам глубоко и эффективно понять себя и свой интеллект, чтобы мы знали, как научиться всему, что нам нужно, чтобы учиться, работать и учиться вместе с другими и процветать, живя нашей жизнью, дополненной ИИ.