Автор Джеффри Р. Янг
Может ли ChatGPT сделать человеческое письмо более эффективным, или написание — трудоемкий процесс, который лучше всего выполнять без инструментов искусственного интеллекта?
Когда полтора года назад появился ChatGPT, многие преподаватели сразу забеспокоились, что их студенты будут использовать его вместо выполнения собственных письменных заданий — что они будут нажимать кнопку в чат-боте вместо того, чтобы думать, как ответить на эссе. подскажите сами.
Но у двух профессоров английского языка в Университете Карнеги-Меллон первая реакция была другая: они увидели в этой новой технологии способ показать студентам, как улучшить свои навыки письма.
Чтобы внести ясность, эти профессора — Сугуру Ишизаки и Дэвид Кауфер — также беспокоились, что студенты могут легко злоупотреблять инструментами генеративного ИИ. И это до сих пор вызывает беспокойство.
Однако у них была идея, как создать уникальный набор ограждений, который превратился бы в новый вид инструмента обучения, который мог бы помочь учащимся воплотить больше своих идей в своих заданиях и тратить меньше времени на размышления о форматировании предложений.
«Когда все остальные боялись, что ИИ отнимет у учащихся письменную работу, — вспоминает Кауфер, — мы сказали: «Что ж, если мы сможем ограничить ИИ, тогда ИИ сможет сократить многие корректирующие задачи по написанию, которые мешают учащимся действительно [смотреть], чтобы посмотреть, что происходит с их сочинением».
Профессора называют свой подход «ограниченным генеративным искусственным интеллектом» и уже создали прототип программного инструмента, чтобы опробовать его в классах, под названием myScribe, который в этом семестре опробуется на 10 курсах университета.
Кауфер и Ишизаки находились в уникальном положении. На протяжении десятилетий они вместе создавали инструменты для обучения письму. Предыдущая система, которую они создали, DocuScope, использует алгоритмы для выявления закономерностей в письме учащихся и визуального показа этих закономерностей учащимся.
Ключевой особенностью их нового инструмента является «Примечания к прозе», который может брать отрывочные пункты или случайные мысли, набранные студентом, и превращать их в предложения или черновики абзацев благодаря интерфейсу ChatGPT.
«Узким местом в писательстве является генерация предложений — воплощение идей в предложениях», — говорит Ишизаки. «Это большая задача. Эта часть действительно дорогостоящая с точки зрения когнитивной нагрузки».
Другими словами, особенно начинающим писателям сложно одновременно придумывать новые идеи и держать в голове все правила построения предложения, так же как начинающему водителю трудно уследить и за дорожной обстановкой, и за дорожной обстановкой. механика вождения.
«Мы подумали: можем ли мы действительно облегчить эту нагрузку с помощью генеративного ИИ?» он говорит.
Кауфер добавляет, что начинающие писатели часто слишком рано в процессе написания переходят к объединению фрагментов идей, которые они излагают, в тщательно составленные предложения, тогда как позже они могут просто удалить эти предложения, потому что идеи могут не вписаться в их окончательный аргумент или эссе.
«Они слишком рано начинают полировать», — говорит Кауфер. «Итак, мы пытаемся сделать это с помощью ИИ: теперь у вас есть инструмент для быстрого прототипирования вашего языка, когда вы прототипируете качество своего мышления».
Он говорит, что эта концепция основана на письменных исследованиях 1980-х годов, которые показывают, что опытные писатели тратят около 80 процентов своего раннего времени, думая о планах и организации всего текста, а не о предложениях.
Укрощение чат-бота
По словам профессоров, создание функции «заметки в прозе» потребовало определенных усилий.
В своих ранних экспериментах с ChatGPT, когда они добавляли несколько фрагментов и просили его составлять предложения, «мы обнаружили, что он начинает добавлять в текст много новых идей», — говорит Ишизаки. Другими словами, инструмент имел тенденцию идти еще дальше при написании эссе, добавляя другую информацию из своих огромных хранилищ обучающих данных.
«Поэтому мы просто придумали очень длинный набор подсказок, чтобы убедиться в отсутствии новых идей или новых концепций», — добавляет Ишизаки.
Этот метод отличается от других попыток сосредоточить использование ИИ в образовании тем, что единственным источником, из которого черпает бот myScribe, являются заметки учащихся, а не более широкий набор данных.
Стейси Рорбах, доцент и директор аспирантуры Школы дизайна Карнеги-Меллона, видит потенциал в инструментах, подобных тем, которые создали ее коллеги.
«Мы уже давно поощряем студентов всегда составлять подробный план и спрашивать: «Что вы пытаетесь сказать в каждом предложении?» — говорит она и надеется, что подходы «сдержанного ИИ» помогут этим усилиям.
И она говорит, что уже видит, как студенты-писатели злоупотребляют ChatGPT, и поэтому считает, что необходима некоторая сдержанность.
«Это первый год, когда я увидела много текста, созданного искусственным интеллектом», — говорит она. «И идеи теряются. Предложения составлены правильно, но в итоге получается тарабарщина».
Джон Уорнер, писатель и консультант по образованию, который пишет книгу об искусственном интеллекте и писательстве, говорит, что ему интересно, сможет ли инструмент myScribe полностью предотвратить «галлюцинации» чат-бота с искусственным интеллектом или случаи, когда инструменты вставляют ошибочную информацию.
«Люди, с которыми я разговариваю, думают, что это, вероятно, невозможно», — говорит он. «Галлюцинации — это особенность работы больших языковых моделей. В большой языковой модели отсутствует суждение. Возможно, вы не сможете уйти от этого, придумав что-нибудь. Потому что что он знает?»
Кауфер говорит, что их тесты пока работают. В последующем интервью по электронной почте он написал: «Важно отметить, что «примечания к прозе» действуют в рамках единицы абзаца. Это означает, что если бы оно вышло за границы нот (или «галлюцинировало», как вы выразились), это было бы легко заметно и легко идентифицировать. Беспокойство по поводу галлюцинаций ИИ усилилось бы, если бы мы говорили о более крупных единицах дискурса».
Ишизаки, однако, признал, что полностью устранить галлюцинации ИИ с помощью их инструмента, возможно, не удастся. «Но мы надеемся, что сможем сдерживать или направлять ИИ настолько, чтобы свести к минимуму «галлюцинации» или неточную или непреднамеренную информацию, чтобы авторы могли исправить их в процессе проверки/пересмотра».
Он описал свой инструмент как «видение» того, как, по их мнению, технология будет развиваться, а не как разовую систему. «Мы ставим перед собой цель достичь прогресса в области письменной технологии», — говорит он. «Другими словами, концепция примечаний к прозе является неотъемлемой частью нашего видения будущего письменности».
Однако даже в качестве видения Уорнер говорит, что у него другие мечты о будущем писательского дела.
По его словам, один технический писатель недавно заметил, что ChatGPT — это все равно, что иметь 1000 стажеров.
«С одной стороны, «потрясающе», — говорит Уорнер. «С другой стороны, 1000 стажеров совершают много ошибок. Стажеры на ранних этапах отнимают у вас больше времени, чем экономят, но цель состоит в том, чтобы со временем человек осуществлял все меньше и меньше контроля, он учится». Но в случае с ИИ, по его словам, «надзор не обязательно улучшает базовый продукт».
Таким образом, утверждает он, чат-боты с искусственным интеллектом в конечном итоге становятся «очень мощным инструментом, требующим огромного человеческого контроля».
И он утверждает, что превращение заметок в текст на самом деле является важным человеческим процессом письма, который следует сохранить.
«Многие из этих инструментов предназначены для повышения эффективности процесса, который не обязательно должен быть эффективным», — говорит он. «Огромное событие происходит, когда я перехожу от своих заметок к черновику. Это не просто перевод — это мои идеи, и я хочу, чтобы они были на странице. Скорее, это мои идеи, и мои идеи обретают форму, пока я пишу».
Кауфер разделяет этот аргумент. «Дело в том, что ИИ никуда не денется и не исчезнет», — говорит он. «Будет битва за то, как это будет использоваться. Мы боремся за ответственное использование».