134 подписчика
YandexGPT научилась проверять себя на галлюцинации
Нейросеть Яндекса обучили самостоятельно проверять сгенерированные тексты на наличие галлюцинаций — так называют вымышленные данные в ответах. По утверждению разработчиков, это позволило в шесть раз снизить количество неточностей в описаниях объектов на «Яндекс Картах».
Описания создаются в несколько этапов. Сначала нейросеть анализирует отзывы и карточку, заполненную владельцем объекта. Затем объединяет основные данные в несколько предложений. После этого убирает лишние слова и правит стилистику и структуру текста. Теперь специалисты добавили еще один этап: нейросеть сравнивает свой текст с отзывами и удаляет вымышленную информацию.
Раньше за составление описаний отвечали целых пять моделей. Теперь их заменила одна, а значит, сервис использует меньше вычислительных мощностей.
Около минуты
29 августа 2024