OpenAI запускает новый инструмент для выявления текстов от ИИ

ChatGPT — инструмент искусственного интеллекта, который может писать эссе, стихи и электронные письма на любую тему одним щелчком курсора — потряс весь образовательный мир, когда был представлен в конце прошлого года. Теперь его авторы создали новую программу, которая может помочь поймать студентов, использующих ИИ-бот для обмана.Но вместо того, чтобы развеять опасения учителей, новый инструмент обнаружения несколько разочаровал мир технологий и образования. Платформа, созданная компанией OpenAI из Сан-Франциско, точно идентифицирует текст, написанный ИИ, только в четверти случаев и дает ложное срабатывание почти в 1 из 10 представленных материалов. Даже другой инструмент обнаружения, созданный студентом Принстонского колледжа, работает немного лучше.Некоторые эксперты опасаются, что программа обнаружения компании может привести к ложному обвинению студентов в плагиате.«Я удивлен, что OpenAI выпустит этот инструмент с его нынешним уровнем производительности», — сказал Виктор Ли, руководитель факультета AI + Education Стэнфордского университета. «Если это будет рассмотрено слишком быстро, это может быть очень рискованно и вредно для студентов».После выпуска чат-бота в конце прошлого года школьные округа по всей стране отреагировали тревогой. ChatGPT, способный создавать контент за считанные секунды, многими рассматривался как совершенный чит-код для студентов, а некоторые считали, что это гвоздь в гроб оригинального письма. Студенты начали сдавать письменные задания, написанные ИИ, а компании начали интегрировать ChatGPT в свои протоколы копирайтинга. И в течение нескольких недель его использование было запрещено в школах Нью-Йорка, Лос-Анджелеса и Сиэтла.Некоторые из крупнейших мировых технологических компаний пытались наверстать упущенное. На прошлой неделе Microsoft сообщила, что интегрирует технологию ChatGPT в свою поисковую систему Bing. Google последовала за ней со своей собственной версией под названием Bard.«Это изменит все», — сказал ранее в этом месяце Джейк Карр, учитель английского языка в Чико.Разрабатывая инструмент для выявления текста, написанного человеком, и текста, написанного ИИ, создатели ChatGPT, базирующейся в Сан-Франциско компании OpenAI, надеются предотвратить участие бота в автоматизированных кампаниях по дезинформации, мошенничеству в школах и других видах обмана с использованием ИИ.«Мы делаем этот классификатор общедоступным, чтобы получить отзывы о том, полезны ли такие несовершенные инструменты, как этот», — говорится в недавнем сообщении в блоге OpenAI. «Наша работа по обнаружению текста, сгенерированного ИИ, будет продолжена, и мы надеемся поделиться улучшенными методами в будущем».Но текстовый классификатор компании опаздывает. В начале января студент из Принстона Эдвард Тиан создал инструмент GPTZero со слоганом «люди заслуживают правды».При сравнении тех же двух написанных ChatGPT эссе о текстовом классификаторе OpenAI и GPTZero Тиана — три абзаца об опасности плагиата — классификатор текста выдал, что текст «возможно, сгенерирован искусственным интеллектом», в то время как GPTZero выдал, что он «вероятно, был написан полностью искусственным интеллектом».Кроме того, «классификатор текста AI» не особенно надежен. По данным компании, инструмент идентифицировал текст, написанный компьютером, в 26% случаев, в то время как текст, написанный человеком, был ошибочно помечен как ИИ в 9% случаев. Обнаружение особенно плохо работает с текстом короче 1000 символов. Тем не менее OpenAI заявила, что ее классификатор текста более точен, чем другие инструменты, пытающиеся анализировать текст.Ли сказал, что ценит открытость компании в отношении ограничений своего классификатора, но у него все еще есть опасения. «Я действительно беспокоюсь, что многие люди услышат, что есть такой инструмент, не читая мелкий шрифт касательно его производительности».