Источник изображения: Gerd Altmann/Pixabay
Компания OpenAI разработала инструмент, способный с высокой точностью определять тексты, сгенерированные искусственным интеллектом. Однако, несмотря на готовность технологии, компания пока не решается представить её широкой публике.
По информации издания Tom's Hardware, инструмент основан на внедрении в текст «водяных знаков» — незаметных для человека меток, по которым можно идентифицировать авторство ChatGPT. Внутренние тесты показали 99,9% эффективность метода.
Несмотря на это, у OpenAI есть ряд опасений. Во-первых, «водяные знаки» легко обойти, например, переведя текст на другой язык и обратно. Во-вторых, инструмент может быть предвзят по отношению к людям, для которых английский язык не является родным. В-третьих, опросы пользователей показали, что многие опасаются ложных обвинений в использовании ИИ, а 30% и вовсе готовы перейти к конкурентам в случае запуска детектора.
Ранее OpenAI уже выпускала подобный инструмент, но отозвала его через 7 месяцев из-за низкой точности и ложных срабатываний.
Несмотря на все сложности, OpenAI осознает риски, связанные с неконтролируемым использованием сгенерированных текстов, и ищет альтернативные методы их выявления. Спрос на подобные решения, безусловно, есть: по данным компании, 80% опрошенных по всему миру поддерживают идею создания детектора ИИ-текстов.