Наделавшая немало шума своим чат-ботом ChatGPT компания OpenAI объявила о закрытии сервиса AI Text Classifier, предназначенного для выявления сгенерированного нейросетями текста. Он просуществовал всего несколько месяцев, но в итоге разработчики признали, что сервис не способен эффективно справляться со своей задачей.
Появление ChatGPT и других генеративных нейросетей вызывает у многих обеспокоенность. Из-за них было несколько громких скандалов, вроде защиты диплома, написанного нейросетью, или же введения суда в заблуждение несуществующими фактами. Для предотвращения подобных инцидентов OpenAI разработала сервис AI Text Classifier, который должен был выявлять текст, созданный ИИ. Но оказалось, что он максимально неэффективен в выполнении поставленных задач.
«По состоянию на 20 июля 2023 года AI Text Classifier больше недоступен из-за его низкой точности. Мы работаем над учётом отзывов и в настоящее время изучаем более эффективные методы определения происхождения текста, а также взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, является ли аудио- или визуальный контент сгенерированным искусственным интеллектом», — говорится на сайте OpenAI.
AI Text Classifier идентифицировал англоязычный текст как сгенерированный с помощью ИИ только в 26% случаев. Кроме того, в 9% эпизодов сервис помечал написанные человеком тексты как созданные ИИ.
