- Разработка системы для маркировки текста и водяных знаков:
OpenAI разработала систему для маркировки текста, созданного с помощью ChatGPT, и инструмент для обнаружения водяных знаков.
Внутри компании нет единого мнения о выпуске этой технологии.
К слову разрабатывают уже второй год. - Технология водяных знаков:
Водяные знаки работают путем корректировки предсказания модели, создавая обнаруживаемый шаблон.
Эта технология помогает идентифицировать текст, созданный ИИ. - Польза для учителей:
Водяные знаки могут помочь учителям предотвратить использование ИИ для выполнения письменных заданий. - Поддержка общественности:
Опрос показал, что люди по всему миру поддерживают идею инструмента для обнаружения текста, созданного ИИ. - Точность и уязвимость технологии:
OpenAI заявляет, что метод водяных знаков имеет высокую точность (99,9%) и устойчив к фальсификациям.
Однако перефразирование может обойти защиту водяных знаков. - Обеспокоенность использованием водяных знаков:
Опасения, что водяные знаки могут отпугнуть пользователей, так как почти 30% респондентов сообщили, что будут реже использовать ChatGPT, если водяные знаки будут реализованы. - Альтернативные методы:
Некоторые сотрудники предложили менее спорные методы маркировки, такие как внедрение метаданных.
OpenAI рассматривает возможность использования криптографически подписанных метаданных для предотвращения ложных срабатываний.
Но еще сомневаются, С одной стороны, это кажется ответственным решением; с другой стороны, это может навредить ее прибыли.
#нейросети #искусственныйинтеллект #машиннообучение #AI #deep_learning #machine_learning #data_science #глубокоеобучение #алгоритмы #нейронныесети #технологии #автоматизация #big_data #аналитика #компьютерноезрение #распознаваниеизображений #обработкаестественногоязыка #робототехника #инновации
