Автор Терри Фридман, ИКТ и вычислительная техника в образовании
В своей статье «Будущее оценивания» Стивен Даунс выражает свою уверенность в том, что реальное будущее оценивания заключается в системах, которые могут «научиться анализировать и оценивать ответы на открытые вопросы».
К сожалению, как бы мне ни хотелось убедиться, что это действительно так, у меня есть серьезные опасения.
Проблема черного ящика
Во-первых, ИИ в том виде, в каком он работает на данный момент, — это черный ящик. Он делает выводы скрытым от глаз образом. Другими словами, мы часто не знаем, как программа добилась того результата, который она сделала. Действительно, как отмечает Роуз Лакин в своей книге «Машинное обучение и человеческий интеллект», программа сама не знает, как она пришла к выводу.
У неё нет самосознания или метапознания: она на самом деле не знает, как она «думает».
Это означает, что с философской точки зрения мы готовы поверить на слово программе, которая может обрабатывать данные намного быстрее, чем мы когда-либо, но понятия не имеет, что она делает. К сожалению, даже если у вас мало времени или терпения на философские размышления, есть и практические ловушки.
Предвзятость автоматизации
Здесь люди доверяют технологиям больше, чем человеку. Я столкнулся с хорошим примером этого несколько лет назад, когда инспектировал вычислительный отдел школы. Программа оценивания, которую они использовали, принимала ответы учеников на контрольные вопросы, а затем сообщала учителю, на каком «уровне» находятся ученики. Не было никаких указаний на то, как это сработало с ними.
Учитель показал мне два графика достижений своих учеников, измеренных в начале и в конце семестра с помощью этой программы:
- Видишь? - сказал он. «Цифры выросли!».
«Да, — сказал я, — но что на самом деле означают цифры?»
Он поглядел недоверчиво, как будто кто-то действительно может задать такой глупый вопрос. "Какая разница? Они выше, не так ли?»
Это отличный пример предвзятости автоматизации. Когда дело доходит до ИИ, когда компьютер говорит вам, что эссе имеет оценку B+, вы склонны этому безоговорочно верить. В конце концов, ИИ «узнал», как выглядит хорошее эссе, поэтому он должен быть прав. Такое отношение резко снижает полезность системы искусственного интеллекта, которая ставит оценку эссе. Как бы маловероятно это ни звучало, но один из ваших студентов мог выдвинуть совершенно новую теорию, скажем, по экономике. (Известно: когда Дж. М. Кейнса спросили, почему он провалил экзамен по экономике в Кембридже, он ответил, что это потому, что он знает об экономике больше, чем его профессора.) Поскольку ИИ узнал, что такое «правильный» ответ, он пометит эссе студента как неправильное. Представьте, что произошло бы (или не произошло), если бы Ньютона, Коперника или Дарвина оценивали автоматическим маркером эссе.
Каковы заблуждения студентов?
Связанная с этим опасность заключается в том, что, если ИИ правильно оценивает эссе без участия учителя, последний не имеет возможности увидеть, какие неправильные представления возникли у ученика. Если вы, как и я, считаете, что целью образования является изучение материала, тогда этот процесс полностью упускает суть. Конечно, если цель «образования» — поставить ученикам оценки за работу, я полагаю, это нормально. (В таком случае, я думаю, вам понравится и вы найдете полезными «6 способов ответа на запросы о бессмысленных данных».)
Мне понравилось читать книгу Джона Уорнера «Почему они не умеют писать».
В ней он ставит вопрос, который касается самой сути вопроса:
Если эссе написано и никто не читает его, можно ли считать его актом коммуникации?
Я думаю, что большинству людей придется ответить «Нет», что делает все упражнение бессмысленным.
Кстати, вы могли бы прочитать этот блестящую рецензию моей новой книги. Рецензию написал AI, а книги на самом деле не существует.
Вам также может быть интересен мой обзор Story Machines, в котором исследуется ИИ, используемый для написания художественной литературы.