Думаю, все уже слышали, а может даже сталкивались с "галлюцинациями" при общении с ChatGPT. Это когда чат-бот начинает выдавать неправдивую информацию за истину. Не самое приятное, когда надеешься получить от бота что-то достоверное.
Компания OpenAI придумала способ, как можно исправить эту проблему. Они разработали стратегию, по которой ИИ будет вознаграждать себя за верные рассуждения и ответы. У этого подхода даже появилось название «контроль процесса». Они считают, что это может способствовать развитию более логичного искусственного интеллекта, так как модель будет следовать последовательности мыслей, аналогичной человеческой.
#НейроНовость
Твой Пакет Нейросети
