6 дней назад
ИИ сочиняет факты, решатель проверяет рассуждение: каждый вывод получает метку
Автор технического разбора описал нейросимволические рассуждения, где логический решатель проверяет каждый факт языковой модели, и вышел этот разбор на фоне новостей об ИИ, доказывающем теоремы, но по-прежнему выдумывающем факты. Ответ модели перестаёт быть словом на веру: каждый вывод получает метку, взят ли он из текста, выведен логикой или предложен моделью как гипотеза. Для тех, кто публикует факты от ИИ, это способ отличить проверенное от догадки. Языковая модель, то есть программа, которая подбирает следующее слово по вероятности, хорошо рассуждает по аналогии...