1241 подписчик
OpenAI подвергает модель критике, чтобы найти ошибки в ответах в чате
🔸 ChatGPT - генеративный искусственный интеллект, разработанный OpenAI.
🔸 CriticGPT - ИИ-модель на базе GPT-4, предназначенная для обнаружения ошибок в коде, написанном ChatGPT.
🔸 CriticGPT используется для обучения и улучшения реакций GPT-4 с использованием метода RLHF.
🔸 Тренеры по искусственному интеллекту сталкиваются с трудностями из-за растущей точности ChatGPT и незаметности его ошибок.
🔸 CriticGPT может помочь людям лучше указывать на ошибки в работе ChatGPT, чем при самостоятельном выполнении.
🔸 OpenAI работает над устранением ограничений CriticGPT, включая обучение с использованием длинных ответов и борьбу с галлюцинациями.
🔸 CriticGPT был обучен на коротких ответах в чате, и необходимы новые методы для работы с длинными и сложными задачами.
🔸 Галлюцинации могут привести к ошибочным ярлыкам, и OpenAI работает над их устранением.
Около минуты
27 июня 2024