Автор Эрик Офганг
ChatGPT, инструмент для письма с искусственным интеллектом, который дебютировал в ноябре и вызвал шок в системе образования из-за своей способности мгновенно генерировать текст, похожий на человеческий, в ответ на подсказки.
GPTZero был создан Эдвардом Тианом, выпускником Принстонского университета, специализирующимся на компьютерных науках и несовершеннолетним журналистом. GPTZero доступен бесплатно учителям и другим людям и может обнаруживать работу, созданную ChatGPT, более чем в 98 процентах случаев, говорит Тиан Tech & Learning. Инструмент является одним из нескольких новых средства обнаружения, появившиеся после выпуска ChatGPT.
Тиан рассказывает, как он создал GPTZero, как он работает и как учителя могут использовать его для предотвращения мошенничества с ChatGPT в своих классах.
Что такое GPTZero?
Тиан был вдохновлен на создание GPTZero после того, как был выпущен ChatGPT, и он, как и многие другие, увидел потенциал этой технологии для помощи студентам в мошенничестве.
«Я думаю, что за этой технологией будущее. ИИ никуда не денется», — говорит он. «Но в то же время мы должны создать меры безопасности, чтобы эти новые технологии применялись ответственно».
До выпуска ChatGPT диссертация Тиана была сосредоточена на обнаружении языка, сгенерированного искусственным интеллектом, и он работал в Принстонской лаборатории обработки естественного языка. Когда наступили зимние каникулы, у Тиана появилось много свободного времени, и он начал программировать на своем ноутбуке в кафе, чтобы посмотреть, сможет ли он создать эффективный детектор ChatGPT. «Я подумал, почему бы мне просто не построить его и посмотреть, сможет ли мир использовать это».
Мир был очень заинтересован в его использовании. Тиан был показан на NPR и в других национальных публикациях.
Более 20 000 преподавателей со всего мира, от K12 до высших учебных заведений, подписались на получение обновлений о GPTZero.
Как работает GPTZero?
GPTZero обнаруживает текст, сгенерированный ИИ, путем измерения двух свойств текста, называемых «недоумение» и «всплесковость».
«Недоумение — это мера случайности, — говорит Тиан. «Это измерение того, насколько случайным или знакомым является текст для языковой модели. Поэтому, если фрагмент текста очень случайный, хаотичный или незнакомый для языковой модели, если он очень сбивает с толку для этой языковой модели, тогда он будет иметь высокую сложность и, скорее всего, будет создан человеком».
С другой стороны, текст, который очень знаком и, вероятно, уже был замечен языковой моделью ИИ раньше, не вызовет у нее недоумения и, скорее всего, был сгенерирован ИИ.
«Всплесковость» относится к сложности предложений. Люди склонны варьировать длину своих предложений и писать «всплесками», в то время как языковые модели ИИ более последовательны. Это можно увидеть, если вы создадите диаграмму, рассматривающую вариативность предложений. «Для человеческого эссе, оно будет везде разным. Оно будет то подниматься, то опускаться, — говорит Тиан. — Это будут внезапные всплески и всплески, тогда как для машинного эссе оно будет довольно скучным. У него будет постоянная базовая линия.»
Как педагоги могут использовать GPTZero?
Бесплатная пилотная версия GPTZero доступна для всех преподавателей на веб-сайте GPTZero.
«Существующая модель имеет уровень ложноположительных результатов менее 2 процентов», — говорит Тиан.
Тем не менее, он предостерегает преподавателей не рассматривать его результаты как доказательство того, что учащийся использовал ИИ для обмана. «Я не хочу, чтобы кто-то принимал окончательные решения. Это то, что я создал во время каникул», — говорит он об инструменте.
Технология также имеет ограничения. Например, она не предназначен для обнаружения сочетания текста, созданного искусственным интеллектом и человеком. Преподаватели могут подписаться на рассылку обновлений о следующей версии технологии, которая сможет выделять те части текста, которые кажутся сгенерированными искусственным интеллектом. «Это полезно, потому что я не думаю, что кто-то собирается копировать все эссе с ChatGPT, но люди могут смешивать части», — говорит он.
Сможет ли GPTZero идти в ногу с ChatGPT по мере совершенствования технологии?
Тиан уверен, что даже по мере совершенствования ChatGPT и других языковых моделей ИИ такие технологии, как GPTZero и другое программное обеспечение для обнаружения ИИ, будут идти в ногу со временем. «Обучение модели обнаружения намного проще, чем обучение одной из этих гигантских больших языковых моделей. Обучение одной из этих гигантских больших языковых моделей стоит миллионы и миллионы долларов», — говорит он. Другими словами, ChatGPT нельзя было создать во время зимних каникул в кафе с бесплатным Wi-Fi, как это было с GPTZero.
Будучи второстепенным журналистом и любителем человеческого письма, Тиан в равной степени уверен, что человеческое прикосновение к письму останется ценным и в будущем.
«Эти языковые модели просто поглощают гигантские куски интернета и извергают шаблоны, и они не придумывают ничего действительно оригинального», — говорит он. «Поэтому умение писать оригинально останется важным навыком».
