OpenAI представила новый инструмент, предназначенный для обнаружения текста, сгенерированного искусственным интеллектом.
Инструмент под названием Detexify предназначен для идентификации текста, сгенерированного моделями машинного обучения, такими как GPT-3. Он работает, анализируя текст и предоставляя процентную оценку, указывающую на вероятность того, что он был сгенерирован моделью ИИ.
Detexify основан на предыдущей работе OpenAI в области обнаружения машинно-генерируемых изображений. Компания заявляет, что этот инструмент будет особенно полезен для обнаружения случаев использования сгенерированного ИИ текста для распространения дезинформации или манипулирования общественным мнением.
OpenAI сделал Detexify общедоступным бесплатным сервисом. Компания надеется, что этот инструмент поможет повысить осведомленность о растущей проблеме текста, генерируемого искусственным интеллектом, и побудит к дальнейшим исследованиям способов его обнаружения и борьбы с ним.
Разработка таких инструментов, как Detexify, подчеркивает необходимость большей прозрачности и подотчетности при использовании текста, созданного ИИ. Поскольку модели ИИ становятся все более изощренными, важно, чтобы исследователи и разработчики работали вместе над разработкой методов обнаружения и смягчения потенциального негативного воздействия этих технологий.
