Система для нанесения ватермарок на текст, созданный в ChatGPT, и инструмент для их обнаружения существуют уже около года — но вводить их не собираются\u000D\u000A
OpenAI пока не будет внедрять водяные знаки на тексты, созданные ChatGPT, несмотря на наличие такой технологии и инструмента для ее обнаружения — это решение связано с опасениями, что внедрение водяных знаков может негативно повлиять на использование ChatGPT и прибыль компании.
Технология водяных знаков заключается в том, чтобы встраивать обнаруживаемые закономерности в текст, созданный ИИ. Это могло бы помочь в выявлении и предотвращении использования ИИ для «жульничества» — написания текстов для школьных или университетских работ. Согласно исследованию, проведенному по заказу OpenAI, большинство людей поддерживает идею инструмента для обнаружения ИИ, но внедрение водяных знаков может оттолкнуть пользователей ChatGPT. Около 30% опрошенных заявили, что будут меньше пользоваться программой, если водяные знаки будут введены.
OpenAI утверждает, что их метод водяных знаков имеет высокую точность и устойчив к фальсификациям, но также отмечает, что он может быть обойден недобросовестными методами: например, просто при перефразировании текста. Кроме того, компания опасается, что использование водяных знаков может негативно повлиять на пользователей, для которых английский не является родным языком — ИИ станет для них «клеймом позора».
Вместо этого OpenAI рассматривает возможность внедрения метаданных, которые могли бы выполнять аналогичную функцию без значительного вмешательства в пользовательский опыт. На данный момент это решение находится на ранних стадиях разработки.
Что такое Chat GPT: