OpenAI прекратила доступ к своему инструменту распознавания текстов, сгенерированных искусственным интеллектом. В заявлении на официальном сайте компания объяснила, что причиной закрытия была низкая точность инструмента. Они сейчас работают над учетом обратной связи и исследуют более эффективные способы проверки подлинности текста. Также OpenAI обязалась разработать и внедрить механизмы, чтобы пользователи могли определить, является ли контент аудио- или визуальный сгенерированным искусственным интеллектом.
Согласно отчетам, изначальный инструмент по распознаванию текста, сгенерированного ИИ, имел низкую точность. Он правильно определял только 26% текстов, созданных нейросетью, а в 9% случаев допускал ошибку, считая человеческий текст машинным. Кроме того, этот инструмент работал только с текстами размером не менее 1 000 символов.
Закрытие инструмента, вероятно, связано с опасностью его использования злоумышленниками, которые могли бы создавать убедительные и вводящие в заблуждение тексты. Это могло бы повлиять на студентов, которые стремятся облегчить себе выполнение домашних заданий, а также на возможные попытки вмешательства в выборы и другие области.
