Искусственный интеллект скоро сможет исследовать и писать эссе так же хорошо, как и люди. Так будет ли унесено подлинное образование приливной волной мошенничества - или ИИ - всего лишь еще один технический помощник, который будут учитываться при обучении и оценивании?
Автор Джон Росс
В платоновском «Федре» Сократ рассказывает историю египетского бога Тота, изобретения которого включают письменность. Сократ рассказывает, как фиванский царь Тамус предупредил бога, что его открытие «вызовет забвение в душах учеников».
«Они будут знать многое и ничему не научатся», - рассказывает Сократ в переводе оксфордского ученого Бенджамина Джоветта. «Они будут казаться всеведущими и, как правило, ничего не знающими; они будут утомительной компанией, демонстрирующей мудрость без реальности».
Этот отрывок можно рассматривать как свидетельство утверждения Филиппа Доусона о том, что «паника» по поводу новых технологий и их влияния на обучение возникла два с половиной тысячелетия назад. По словам Доусона, заместителя директора Центра исследований в области оценки и цифрового обучения при Университете Дикина, иногда есть веские основания для беспокойства. Например, «рост всемирной паутины в конце 1990-х годов был связан с ростом плагиата с копипастом рованием и вставкой, - отмечает он в своей недавней книге «Защита безопасности оценивания в цифровом мире».
Предупреждения о непредвиденных последствиях для студентов и их навыков также сопровождали появление персональных компьютеров и текстовых процессоров в конце 1970-х, а также карманных электронных калькуляторов в начале 1970-х и, предположительно, печатного станка еще в 1444 году. А теперь, как и технологии работа на основе искусственного интеллекта (ИИ) становится повсеместной, дебаты возобновляются в новом раунде.
Те, кому поручено обеспечивать академическую честность, уже изо всех сил стараются не отставать от прогрессирующих технологий. Недавно появившиеся напасти включают в себя различные виды «вертушек слов», которые помогают учащимся замаскировать плагиат, изменяя некоторые слова и фразы. Томаш Фолтынек, эксперт по семантическому анализу из Университета Менделя в Чешской Республике, говорит, что обнаружение плагиата, замаскированного с помощью таких инструментов автоматического перефразирования, «невероятно сложно с вычислительной точки зрения», особенно когда подозрительные отрывки необходимо проверять на соответствие петабайты базы данных», принадлежащей таким компаниям, как Turnitin.
Но теперь преподаватели сталкиваются с перспективой еще более серьезной проблемы: целые оригинальные эссе, созданные с помощью ИИ.
«Эти инструменты становятся все лучше и лучше. Будет все труднее выявлять плагиат или любой другой вид обмана, когда студенты не создавали работы, которые они отправили», - говорит Фолтынек.
Даже Turnitin все еще находится на ранних этапах борьбы с угрозой. Валери Шрайнер, главный директор по продуктам компании в США, говорит, что Turnitin наняла «ведущих аналитиков по обработке естественного языка», чтобы «заняться некоторыми из этих развивающихся граней академической честности».
Она отмечает, что ИИ потенциально может стать большим подспорьем для оценки, избавляя маркеры от утомительной и повторяющейся работы. Например, инструмент Turnitin «AI Assistance» предлагает «предлагаемые группы ответов» для вопросов, требующих однострочных текстовых или математических ответов, что позволяет профессорам отмечать и давать отзывы всем, кто дал аналогичный ответ одновременно.
Шрайнер также отмечает, что компания широко использует ИИ для защиты академической честности. Например, один из ее продуктов использует ИИ для поиска сходства в коде, представленном в заданиях по компьютерным наукам. «Он должен быть немного более сложным, чем [детекторы] подобия текста, потому что он должен смотреть на структуру, а не только на кодовые слова или текст», - говорит она. «Студент может изменить имена переменных в программе, например, в надежде, что его не обнаружат. Искусственный интеллект также используется для выявления любых нарушений в письме учащихся, таких как изменения в орфографических схемах, для выявления признаков того, что учащийся не выполнил свою работу».
Но некоторые наблюдатели предполагают, что борьба с технологиями с помощью технологий - это лишь часть того, что необходимо. Сложность выявления мошенничества «только подчеркивает важность образования как такового - университеты и преподаватели не должны полагаться на эти технологические инструменты», - говорит Фолтынек. «Им нужно более тесно сотрудничать со студентами».
Это мнение поддерживает Джесси Стоммел, эксперт по цифровым исследованиям из Университета Мэри Вашингтон в Вирджинии.
Он говорит, что концепция обмана - это «отвлекающий маневр» в дискуссиях о технологиях и плагиате: «Что нам нужно сделать, так это выстроить позитивные отношения со студентами, чтобы мы могли умно беседовать с ними об их работе, о цитировании, о том, что такое есть плагиат и как выглядит плагиат», - говорит он. «В конечном счете, все эти компании - технологии обмана и технологии противодействия мошенничеству - подрывают эти позитивные отношения».
По словам Доусона из Дикина, отчасти задача состоит в том, чтобы избежать склеротических размышлений о том, как должна выглядеть оценка. «Нам нужно иметь веские аргументы в отношении каждого нового класса инструментов по мере их появления», - говорит он. Но в дебатах не должно доминировать то, что он называет «консерватизмом оценки»: идея о том, что «нам нужно цепляться за те вещи, которые мы привыкли делать» из-за «знакомства или доверия к старой практике».
Он говорит, что профессорам необходимо подумать о том, как ИИ повлияет на концепцию «аутентичной оценки», при которой учащимся разрешается использовать инструменты «реального мира» в оценочных упражнениях. «Мы могли бы подумать: к чему профессионал получит доступ в будущем?» он говорит. «Речь идет о подготовке студентов к жизни в мире, в котором они собираются оказаться - не только сейчас, но и в будущем. Если мы не дадим учащимся возможность решать, когда уместно использовать эти инструменты или нет, и максимально использовать их, мы не дадим им на самом деле то образование, в котором они будут нуждаться».
Эндрю Грауэр, генеральный директор и соучредитель учебной онлайн-платформы Course Hero, говорит, что растущее число взрослых студентов в университетах только обостряет необходимость воспроизводить реальные условия при оценивании. Студенты, как и профессионалы, ищут способы делать дела более эффективно и быстро - «учиться как можно лучше, быстрее, лучше и дешевле», - говорит он.
«На моем текстовом редакторе мигает курсор. Какое это стрессовое, неэффективное состоянии быть в нем!» он говорит. Вместо этого он мог использовать AI-бота, чтобы «придумать какое-то изложение тезиса; генерировать предложения по целевой теме; [взвесить] доказательства за и контраргумент. В конце концов, я перехожу к проверке грамматики. Я мог бы начать работу над своей доказательной статьей».
Люсинда Макнайт, старший преподаватель педагогики и учебной программы, которая преподает до начала работы учителей английского языка в Дикине, соглашается с Доусоном в том, что «моральная паника по поводу потери навыков» сопровождает каждую новую технологическую революцию. Она также согласна с опасностью сосредоточения внимания исключительно на негативе. «Эти новые технологии обладают огромным потенциалом для хорошего и плохого», - говорит она.
Со своей стороны, она экспериментировала с авторами ИИ, чтобы «увидеть, что они могут сделать» - и оценить, как ей следует соответствующим образом скорректировать свои собственные инструкции.
«Как нам подготовить учителей к обучению писателей будущего, когда у нас происходит эта огромная четвертая промышленная революция, от которой школы - и даже в некоторой степени университеты - кажутся совершенно изолированными?» - спрашивает Макнайт. «Я была просто удивлена тем, что существует такой огромный разрыв между [университетской] концепцией цифрового письма в образовании и тем, что на самом деле происходит в промышленности, в журналистике, бизнес-отчетах, сообщениях в блогах - всех видах веб-контента. ИИ берет верх в этих областях».
Макнайт говорит, что ИИ обладает «огромной способностью расширять возможности человека - писать на нескольких языках; очень быстрое написание текста, оптимизированное для поисковых систем; делать всевозможные вещи, на которые у людей уходит гораздо больше времени и которые они не могут делать так тщательно. Это совершенно новый рубеж для открытий».
Более того, это будущее уже наступает. «Есть действительно интересные вещи, которые люди уже делают с ИИ в творческих областях, в литературе, в искусстве», - говорит она. «Люди [очень] любопытны: мы будем использовать эти вещи и изучать их потенциал. Вопрос для нас, как преподавателей, заключается в том, как мы собираемся помочь учащимся использовать ИИ стратегически и результативно, чтобы они могли лучше писать».
И хотя компании по обнаружению плагиата ищут более изощренные способы «поимки» заблудших студентов, она считает, что они также заинтересованы в поддержке культуры академической честности. «Это то, что нас всех интересует», - говорит она. «Так же, как калькуляторы, как проверка орфографии, так же как проверка грамматики, эта [технология] станет естественной в письменной практике ... Нам нужно более стратегически думать о будущем письма, работая совместно с ИИ, а не как охотники за ведьмами, наказывая людей за это».
Шрайнер говорит, что Turnitin теперь использует искусственный интеллект, чтобы дать студентам прямую обратную связь с помощью инструмента под названием «Draft Coach», который помогает им избежать непреднамеренного плагиата. «У вас есть не процитированный раздел вашей статьи. Вы должны исправить это, прежде чем сдать его в качестве окончательной заявки. У вас слишком много общего [с] статьей в Википедии». Такой тип обнаружения сходства и помощи при цитировании использует ИИ непосредственно от имени студента», - говорит она.
Но рисовать линии станет еще труднее, добавляет она: «Всегда будет неправильно платить кому-то за написание вашего эссе. Но [с] материалами, написанными искусственным интеллектом, я думаю, что здесь немного больше мрачности. В какой момент или на каком уровне образования использование инструментов искусственного интеллекта, помогающих писать, становится более аналогично использованию калькулятора? Мы не разрешаем учащимся третьего класса использовать калькулятор на экзамене по математике, потому что это будет означать, что они не знают, как выполнять те фундаментальные вычисления, которые мы считаем важными. Но мы позволяем студентам, изучающим математический анализ, пользоваться калькулятором, потому что предполагается, что они знают, как выполнять эти базовые математические задачи».
Шрайнер говорит, что академическое сообщество, а не технологические компании, должно определять, когда студентам уместно использовать инструменты искусственного интеллекта. Такое использование может быть разрешено, если это прямо разрешено правилами или если учащиеся признают это.
По словам Грауэра из Course Hero, вопрос о признании ИИ «действительно интересный». В то время как атрибуция важна всякий раз, когда кто-то цитирует или перефразирует чужую работу, различие становится менее четким для работы, созданной ИИ, потому что есть разные способы, которыми ИИ может создавать контент. По его словам, одно из практических правил, которое поможет студентам ориентироваться в этой «серой зоне», заключается в том, дает ли инструмент просто ответы или также объясняет, как к ним прийти.
В более широком смысле, он говорит, что правила приемлемого использования и признания ИИ должны устанавливаться преподавателями, деканами или целыми университетами таким образом, чтобы соответствовать их конкретным «целям обучения» - и эти правила должны быть четко выражены в учебных программах, кодексах чести и подобных документах.
Шрайнер ожидает, что такие стандарты со временем будут развиваться, как и стандарты цитирования для традиционных студенческих заданий и исследовательских публикаций; «А пока мы должны поддерживать то, о чем нас просят наши институциональные клиенты», - говорит она.
По мнению Доусона, университеты должны более тщательно продумать степень приемлемой «когнитивной разгрузки» - использование инструментов для снижения умственной нагрузки при выполнении задач. «Я не думаю, что сейчас у нас это достаточно хорошо получается», - говорит он.
Например, трудоемкие навыки, такие как деление в столбик, «в некоторой степени бесполезны» как для студентов, так и для рабочих, потому что калькуляторы - «лучший выбор», - говорит он. Но в некоторых случаях было бы слишком рискованно предполагать, что когнитивная разгрузка всегда возможна, и образовательные курсы должны это отражать. «Если вы тренируете пилотов, вы хотите, чтобы они могли управлять самолетом, когда все инструменты работают, и вы хотите, чтобы они могли эффективно использовать их все. И вы хотите, чтобы они могли управлять самолетом в случае отказа приборов».
В самом деле, несмотря на весь свой потенциал, инструменты искусственного интеллекта несут значительный риск причинения вреда - как в образовании, так и в более широком смысле.
Макнайт цитирует исследования США по использованию ИИ для оценки письменной речи учащихся. «Алгоритмы выносят суждения, которые означают, что учащиеся, которые не соответствуют обычным занятиям, или чей язык не является общепринятым, действительно наказываются. Нам нужно очень хорошо знать, как [инструменты ИИ] могут функционировать [в] навязывании предубеждений». А способность ИИ воспроизводить предвзятость и разжигание ненависти - продемонстрированная в расистских твитах «чат-бота» Microsoft Tay в 2016 году - предполагает, что такие проблемы могут принимать юридическое измерение.
«Если бот нарушает закон, кто виноват? Компания, создавшая бота? Люди, которые выбрали материал, на котором обучается бот? Это будет огромная сфера, которую закон должен решить в будущем. Об этом… учителям и детям тоже придется подумать, - говорит Макнайт.
AI также поднимает вопросы справедливости. Доусон проводит различие между технологиями, принадлежащими учебным заведениям, - системами управления обучением, дистанционными экзаменами и т. д. - и использованием ИИ «под руководством студентов». «Здесь справедливость становится еще большей проблемой», - говорит он. «Некоторые из них будут платными, которые не всем по карману».
Но контраргумент состоит в том, что ИИ улучшает справедливость, потому что ИИ наставники дешевле людей. На этом настаивает Дамир Сабол, основатель приложения Photomath, которое использует машинное обучение для решения математических задач, отсканированных смартфонами студентов, давая им пошаговые инструкции, которые помогут им понять и усвоить концепции. «Существуют явные различия между семьями, которые могут позволить себе [человеческого] репетитора, и теми, которые не могут», - сказал Сабол в недавнем пресс-релизе.
По словам Грауэра, искусственный интеллект также может помочь учащимся лучше учиться. Например, математические онлайн-инструменты, такие как графические калькуляторы и решатели, предоставляют пошаговые объяснения, а также решения: «Это упражнение с вопросами, объяснениями, а затем и другими вопросами, например, беседа. Когда кто-то хочет заниматься обучением на основе запросов, получение доступа к… полезным, точным ответам и объяснениям - это очень мощная отправная точка. Если можно объединить это в полноценный процесс обучения, ситуация станет еще лучше».
Но Макнайт сомневается, что технологии могут эффективно уравнять игровое поле. «Что, если бы у элиты был доступ к человеческим репетиторам, которые были бы представительны и дружелюбны, имели эмоциональную связь с вами и могли бы поддерживать вас всеми способами, которые не могли бы сделать боты, в то время как учащиеся с более низким социально-экономическим положением были отнесены к получению ИИ ботов?» спрашивает она. «Как мы знаем, с технологиями реальность не всегда реализует мечту».
Стоммел из Университета Мэри Вашингтон предупреждает, что эта технология может иметь очень неприятные последствия, поскольку компании по обнаружению плагиата используют данные, чтобы «автоматизировать большую часть педагогической работы».
«У них есть данные о письмах студентов», - говорит он. «У них есть данные о том, как письменные работы студентов меняются с течением времени, потому что в течение карьеры у них есть несколько заявок от отдельного студента. У них есть данные, по которым они могут сравнивать студентов друг с другом и сравнивать студентов в разных учреждениях».
Следующим шагом, как утверждает Стоммел, является разработка алгоритма, который сможет определить, «кто мои ученики, как они растут и склонны ли они обмануть». Это похоже на какое-то мрачное будущее, пугающе правдоподобное, где вместо того, чтобы ловить читеров, вы внезапно пытаетесь поймать идею обмана. Что, если бы мы просто создали алгоритм, который может предсказать, когда и как и где учащиеся могут использовать плагиат, и вмешаемся, прежде чем они это сделают? Если вы видели Minority Report, или читали Nineteen Eighty-Four, или смотрели Metropolis, вы можете увидеть мрачное будущее, куда все это в конечном итоге попадет».
Возможно, не менее тревожной является идея о роботе, который способен поступать в университет и посещать занятия так же, как люди, в конечном итоге получая собственную степень - концепция, предложенная в 2012 году исследователем искусственного интеллекта Беном Герцелем в его статье «Тест студентов роботов колледжа».
Эта концепция недавно приблизилась к реализации благодаря новостям о том, что виртуальный студент с искусственным интеллектом, разработанный китайским университетом Цинхуа, поступил на университетскую степень по компьютерным наукам.
По словам Доусона, такая технология может стать «машиной для мошенничества». Более того, его появление поднимет вопрос: «Что же остается делать людям?» По его словам, ответ заключается в том, чтобы студентов учили «оценочному суждению»: «пониманию того, как выглядит качественная работа».
Макнайт согласен с тем, что ИИ требует от студентов выйти за рамки «шаблонных» типов письма, которые «компьютеры могут сделать за секунду», и выработать оценочные суждения о различиях.
«Скажем, они получают три разные версии искусственного интеллекта того, что они хотят написать. Как они собираются решить, что выбрать?» спрашивает она. «Как они собираются критически взглянуть на язык, который используется в каждом из них? Они могут взять куски из одного и объединить их с кусками из другого. В письменной форме редактирование станет намного важнее. Это действительно захватывающее время».
В более широком смысле Грауэр из Course Hero говорит, что преподаватели должны «использовать то, что люди делают лучше всего. Компьютеры могут обрабатывать информацию лучше и быстрее, лучше и быстрее хранить информацию, потенциально даже лучше и быстрее вспоминать эту информацию. Но они также не обязательно могут связывать информацию».
Если сейчас трудно решить вопросы, касающиеся соответствующих целей обучения и стандартов оценки, насколько они станут сложнее по мере дальнейшего развития технологий? Опрос Оксфордского университета 2012–2013 годов показал, что эксперты по искусственному интеллекту оценили перспективы развития «высокоуровневого машинного интеллекта» к 2040-м годам как 50:50, а к 2075 году они вырастут до 90:10. «Это действительно меняет оценку, - говорит Доусон.
Макнайт предсказывает, что следующее достижение будет «продолжением» нынешней революции в области искусственного интеллекта. «Но он будет персонализированным в масштабе, так что вы будете писать вместе с ботом рядом с вами - бот-тренер по писательскому мастерству будет делать за вас все виды работы: исследует, предлагает грамматические изменения, правки, улучшения, обсуждает способы заниматься вещами. Итак, вы искренне сотрудничаете с этим ботом, когда пишете. Детей будут так учить; все в индустрии будут так писать; так и будет.
В самом деле, возможно, сами ученые будут писать и преподавать вместе со своими собственными персонализированными ботами, поднимая всевозможные дополнительные вопросы о том, что считается оригинальностью и подлинной проницательностью. Но что кажется очевидным, так это то, что мы должны начать решать такие вопросы раньше, чем позже, прежде чем это надвигающееся будущее полностью застигнет нас.
«Это то, что я бы назвал постчеловеческим - пропасть между человеком и машиной», - говорит Макнайт. «Не думаю, что это так далеко».