Разработчики нейросетей DALL-E и ChatGPT, OpenAI, выпустили бесплатный онлайн-инструмент, который умеет отличать написанный человеком текст от творчества искусственного интеллекта.
Для работы классификатора требуется аккаунт OpenAI. Пользователю достаточно просто вставить текст в поле, нажать на кнопку анализа и дождаться результатов — система подскажет степень вероятности использования ИИ в написании текста.
Разработчики также предоставили ряд рекомендаций:
- Алгоритму требуется минимум 1000 символов, что составляет примерно 150-250 слов;
- Текст, сгенерированный ИИ, можно легко отредактировать, чтобы обойти классификатор;
- Инструмент, скорее всего, ошибётся в тексте, написанном детьми, и в тексте не на английском языке, потому что он был обучен англоязычному контенту, написанному взрослыми.
В тестах, проведённых журналистами The Verge, онлайн-инструмент идентифицировал 26% текста, созданного нейросетью, как «вероятно, написанный ИИ». В некоторых случаях система вовсе пометила текст, как «статью полностью написанную ChatGPT».
Компания отмечает, что инструмент не всегда работает точно, поскольку ChatGPT постоянно совершенствуется. Кроме того, классификатор OpenAI можно использовать для обнаружения текста, написанного другими ИИ.
Стоит отметить, что OpenAI не первые, кто придумал инструмент для обнаружения текста, сгенерированного ChatGPT — почти сразу после того, как чат-бот стал вирусным, энтузиаст Эдвард Тиан создал сайт для «обнаружения плагиата ИИ» GPTZero.