OpenAI разрабатывает технологию для точного распознавания текстов, созданных с помощью ChatGPT, но компания решает не делиться этим открытием с общественностью. Это связано с опасениями, что внедрение такого инструмента может отпугнуть некоторых пользователей, особенно тех, кто не владеет английским на высоком уровне. Согласно опросу, около трети пользователей готовы отказаться от использования ChatGPT, если такая технология будет внедрена.
Сотрудники OpenAI отмечают, что даже при использовании водяных знаков их можно легко удалить с помощью перевода текста или добавления и удаления эмодзи. Такие меры могут подорвать эффективность технологии. Сэм Альтман, генеральный директор компании, и Мира Мурати, технический директор, участвовали в обсуждении вопроса, но компания пока не определилась с дальнейшими шагами.
Тем временем Google также работает над аналогичной технологией SynthID для идентификации текста, созданной Gemini AI, которая находится в стадии бета-тестирования. Однако OpenAI понимает важность борьбы с мошенничеством и продолжает искать способы делать это эффективно и без ущерба для удобства пользователей. Эксперты в области искусственного интеллекта отмечают, что проблема мошенничества с использованием текстов, созданных с помощью ИИ, становится все более актуальной. Безопасность и доверие к технологиям искусственного интеллекта напрямую зависят от способности компаний находить баланс между инновациями и защитой пользователей.
]]>
