В платформе Azure AI Content Safety реализована новая функция под названием «коррекция», которая позволяет не только выявлять необоснованную информацию, содержащуюся в ответах больших языковых моделей (или в любых других текстах), но и исправлять ее.Открытые системы
В марте 2024 года Microsoft реализовала в Azure AI возможность проверки «обоснованности» утверждений в любом заданном тексте.Открытые системы
Если в источниках есть нужная информация, модель исправит текст, опираясь на источник, и пользователь получит уже исправленный ответ.Открытые системы
Проблема «галлюцинаций» остается одной из самых важных в области генеративного искусственного интеллекта, отмечают эксперты.Открытые системы