Разработка компьютерных учебных материалов поднимает острые вопросы представительства.
Автор Джеффри Р. Янг
С момента внезапного появления ChatGPT всего несколько месяцев назад возобновился интерес к использованию чат-ботов с искусственным интеллектом в качестве тьюторов. Сама технология поднимает множество сложных вопросов. Некоторые исследователи изучают вопрос, который может показаться тривиальным, но на самом деле может быть довольно сложным: как должны выглядеть и звучать эти созданные компьютером помощники в обучении?
Оказывается, один из самых цитируемых в мире исследователей в области образования, Ричард Майер, работает над серией исследований, посвященных тому, какие голоса и изображения, сгенерированные компьютером, наиболее интересны учащимся и приводят к наилучшим результатам.
«В сфере образования мы мечтали, чтобы у людей были свои индивидуальные тьюторы, которые помогали бы им учиться», — говорит Майер, профессор психологии Калифорнийского университета в Санта-Барбаре, отмечая, что ChatGPT возобновил этот толчок. «Поэтому, когда мы подойдем к этому моменту, мы должны понять: «Какими должны быть характеристики этих тьюторов?» «Как мы создаем онлайн-тьюторов, которые доступны и у которых мы хотим учиться?»
Одно из этих исследований Майер появилось в исследовательском журнале только в прошлом месяце под названием «Роль эмоционального тона и пола компьютерных голосов в мультимедийных уроках».
В документе описывается эксперимент, в котором студенты колледжа, некоторые мужчины и женщины, смотрели короткую онлайн-презентацию слайдов, озвученную компьютерным голосом. Все участники видели одни и те же слайды, но с одним из четырех разных голосов: «счастливая женщина, грустная женщина, счастливый мужчина и грустный мужчина».
Майер считает, что по мере того, как сгенерированные компьютером голоса станут более реалистичными, влияние тона голоса, «пола» и других характеристик станет более значительным. Одна из гипотез состоит в том, что учащиеся лучше реагируют на оптимистичную личность, чем на мрачную, что подпадает под то, что Майер называет «принципом позитивности». И это произошло с участниками исследования мужского пола, которые лучше справились с викториной после видео о материале, когда материал был произнесен счастливым голосом, чем когда грустный.
Майер не только считает, что оптимистичные виртуальные преподаватели будут работать лучше, чем те, у кого другой эмоциональный тон, но он также считает, что некоторые студенты могут лучше учиться у оптимизированного агента, чем у репетитора-человека.
Он указывает на исследования, которые показывают, что некоторые студенты лучше учатся у преподавателей-мужчин, а другие лучше учатся у женщин.
И он предполагает, что в будущем студенты смогут выбирать «пол» и «расу» интерактивного агента, читающего лекцию или выступающего в качестве их наставника по ИИ, так же, как сегодня люди могут выбирать пол и акцент помощника Siri на их айфон.
Для следующего шага в своем исследовании Майер нанял студентов театрального факультета, чтобы они помогли разработать интерактивных агентов для дальнейшей проверки его теории. «Как только мы сможем найти характеристики наиболее социально привлекательного инструктора, мы сможем использовать их для любой лекции, презентации или учебного взаимодействия», — добавляет он, отмечая, что внимательно следит за развитием ChatGPT и других агентов, поскольку компании пытаются добавить голоса и изображения для таких приложений, как виртуальные репетиторы. Он говорит, что первоначальные результаты показывают, что студенты более положительно реагировали на созданных компьютером инструкторов, которые читали как женщины.
Опасения по поводу имитации расы и пола
Некоторых экспертов в области вычислительной техники и преподавания направление исследований вызывает недоумение.
«Меня беспокоит такая гипер-индивидуализация репетиторов, что это может привести к плохой аппроксимации и, в конечном итоге, к навязыванию стереотипов, которые просто не соответствуют действительности», — говорит Парт Сарин, магистрант компьютерных наук в Стэнфордском университете.
Например, Зарин выросла с родителями, которые говорили на смеси хинди и английского языка, и у моделей ИИ, в основном обученных стандартному американскому английскому, могут возникнуть проблемы с имитацией.
«Люди, которые используют модели ИИ, не должны пытаться приблизиться к личности, которая сильно отличается от их собственной», — говорит Сарин. Сарин сравнила белого профессора, которому компьютерный агент читает видеолекцию «голосом черного исполнителя с черным лицом.
Что касается пола, то существует долгая история программирования роботов с женскими голосами.
Это тенденция, которую некоторые наблюдатели критикуют как усиление гендерных предубеждений, особенно учитывая относительную нехватку женщин, участвующих в создании подобных технических инструментов.
Тем не менее, когда дело доходит до образования, преобладание инструментов репетиторства, которые «звучат по-женски», отражает тот факт, что три четверти учителей государственных школ в США — женщины.
Одно из возможных решений? Разработка «бесполого» виртуального голоса. Это идея Q, голосового помощника, созданного с использованием модулированных записей людей, которые идентифицируют себя как небинарные.
Важна ли подлинность?
Дереку Браффу, приглашенному заместителю директора Центра передового опыта в области преподавания и обучения в Университете Миссисипи, стремление создать идеальную личность для цифрового наставника напоминает ему о предыдущем моменте онлайн-обучения. Около 10 лет назад, когда знаменитые колледжи спешили выпускать бесплатные онлайн-курсы, известные как МООК, некоторые сторонники рассматривали возможность того, чтобы их преподавали голливудские знаменитости. «Люди воображали, что у нас будет профессор, написавший видео, а Мэтт Дэймон или Морган Фриман будут читать лекцию», — говорит Брафф.
Эта тенденция так и не материализовалась, добавляет он, в основном потому, что для многих студентов отношения с преподавателем, преподающим материал, являются ключевыми, независимо от тона речи преподавателя, пола или расы.
«Для некоторых студентов отсутствие личных отношений со своим профессором не является проблемой — это, как правило, студенты старшего возраста и люди, уже работающие», — добавляет Брафф. «Но большинство студентов бакалавриата, особенно начинающие студенты бакалавриата, получают большую пользу от отношений со своим профессором».
По словам Браффа, появление ChatGPT и идея виртуальных наставников повышают вероятность того, что эта технология сможет эффективно дополнить профессора-человека. Но он надеется, что такие инструменты будут использоваться как учебники или учебные материалы, а не как замена людей-инструкторов.
«Если бы у меня был выбор между выяснением того, какое лицо, голос и тон давать обучающим агентам, и предоставлением 30 ученикам настоящего учителя, я бы дал ученикам настоящего учителя», — говорит он.
По словам Сарин, более важный вопрос заключается в том, сможет ли агент ИИ когда-либо установить эффективную обучающую связь со студентом.
«Невозможно сделать так, чтобы голос в чат-боте был подлинным, потому что это компьютер», — говорит Сарин. «Студенты могут понять подлинность учителей».
