Прокторинговые компании, использующие искусственный интеллект для отслеживания поведения студентов во время онлайн-экзаменов, обычно требуют, чтобы преподаватели университетов просматривали видеозаписи необычной активности. Но действительно ли происходит этот человеческий надзор?
Автор Линдси Маккензи
Компания ProctorU, занимающаяся онлайн-прокторингом на экзаменах, объявила ранее на этой неделе, что больше не будет отправлять созданные искусственным интеллектом отчеты о потенциальных неправомерных действиях студентов в учебные заведения, если сотрудники ProctorU сначала не просмотрят отснятый материал - разработка вызывает больше вопросов, чем дает ответов об использовании технологии в системе высшего образования.
ProctorU, как и многие другие компании, предлагающие услуги удаленного надзора, использует технологию искусственного интеллекта для отслеживания перемещений студентов во время тестов и помечает активность, которая может указывать на то, что студент жульничает. Типичное поведение, которое может быть отмечено ИИ, включает в себя то, что ученики встают со своих мест, не смотрят постоянно на свои экраны или не говорят вслух.
Ранее, в рамках самого дешевого пакета услуг прокторинга, ProctorU отправлял инструкторам отчеты об инцидентах, созданные искусственным интеллектом, без предварительного ознакомления с ними сотрудников. Компания предложила этот пакет при условии, что все отчеты, созданные искусственным интеллектом, будут проверяться инструкторами. Но этого не происходило, - сказал Джаррод Морган, основатель и директор по стратегии ProctorU.
«Неуместно, чтобы ИИ принимал решения, и несправедливо ожидать, что эту работу сделают преподаватели», - сказал Морган.
Компания продолжит использовать ИИ, но теперь двое сотрудников ProctorU будут просматривать видео с веб-камеры, чтобы убедиться, что студенты не будут наказаны ненадлежащим образом за невиновные действия. По словам Моргана, это особенно важно для студентов, которым предоставлены специальные условия.
По словам Моргана, поиск способа обеспечить человеческий контроль за решениями в области академической честности - это то, что ProctorU обсуждает в течение долгого времени. По его словам, во время пандемии, когда резко возросло использование программного обеспечения для удаленного контроля, стало неоспоримо, что сервисы надзора не использовались по назначению.
Некоторые учебные заведения используют онлайн-прокторинг просто как сдерживающий фактор и редко применяют дисциплинарные меры для студентов, когда ИИ выявляет подозрительное поведение. Но другие не понимают, что ИИ подвержен ошибкам и могут действовать в соответствии с отчетами, не просматривая их, говорит Ши Сваугер, библиотекарь и исследователь из Университета Колорадо в Денвере, которая критически относится к тому, что преподаватели полагаются на инструменты онлайн-прокторинга.
Это может быть проблемой, потому что компании избегают ответственности за то, что называть обманом, а что нет.
«Это довольно стандартно для всех прокторинговых компаний, которые предлагают услуги по мониторингу с помощью ИИ или полностью основанные на ИИ, чтобы побудить преподавателей проверять любое отмеченное поведение, прежде чем выносить какие-либо суждения об академической честности», - сказал Сваугер. «Это своего рода основной способ, которым эти прокторинговые компании уклоняются от ответственности, когда дело доходит до дискриминации. Ни одна компания не заявляет, что они определяют, есть ли обман. Все они говорят, что выявляют подозрительное поведение, а затем зависит от учреждения должны ли они определять обман».
По словам Сваугера, возможность дискриминации учащихся с ограниченными возможностями, нейродивергентных, цветных студентов и даже опекунов и родителей высока, когда службы удаленного надзора полагаются на ИИ, а не на человеческое суждение.
По словам Сваугера, даже при человеческом суждении есть место скрытым предубеждениям и дискриминации. По его словам, если вы преподаватель, и вас постоянно предупреждают о том, что студенты с ограниченными возможностями или заболеваниями, а также цветные студенты подозреваются в неправомерном поведении, есть вероятность, что это изменит ваше взаимодействие с этими студентами.
«Даже если у вас никогда не будет фактов нарушения академической дисциплины, это повторяющееся подозрение может вызвать скрытые предубеждения и дискриминационную реакцию со стороны преподавателей», - сказал Сваугер.
«Позитивно, что может быть меньше случаев обвинения студентов в мошенничестве, если они не сделали ничего плохого», - сказала Амелия Вэнс, директор по вопросам конфиденциальности молодежи и образования на форуме Future of Privacy Forum. Тем не менее, она видит возможность того, что что-то пойдет не так, когда люди будут участвовать в вынесении суждений. Она хочет узнать больше об обучении, которое проходят сотрудники ProctorU.
Сделав такое публичное заявление об изменении своего мнения, ProctorU надеется выделиться среди своих конкурентов и отвести часть негативной прессы, которую недавно получили онлайн-прокторинговые компании. Но Сваугер говорит, что считает этот шаг не более чем пиар-ходом.
«Я бы назвал это отмыванием этических норм», - сказал Сваугер.
Конкуренты ProctorU, похоже, не готовы пойти по стопам компании, наложив аналогичные ограничения на использование технологий искусственного интеллекта в онлайн-прокторинге.
«Немного забавно, что они решили бросить гранаты через плечи, когда выходили из комнаты», - сказала Джоди Фини, главный операционный директор компании Respondus, занимающейся мониторингом онлайн-тестов. По ее словам, в подавляющем большинстве онлайн-сессий прокторинга в высшем образовании используются автоматизированные системы, а не люди.
«Я не думаю, что ProctorU собиралась пожертвовать своей прибыльной службой прокторинга», - сказала Фини. «Типичный университет, использующий Respondus Monitor, тратит менее 25 центов за сессию надзора. Живой, человеческий контроль часто стоит 25 долларов за экзамен. Цены и услуги совершенно разные».
