Специалисты Московского государственного психолого-педагогического университета (МГППУ) разработали новое программное обеспечение и алгоритмы для обнаружения «галлюцинаций» у крупных языковых моделей. Речь идет о случаях, когда искусственный интеллект генерирует убедительную, но фактически неверную информацию. Об этом сообщает ТАСС.
По информации вуза, разработанные инструменты позволяют проверять достоверность ответов интеллектуальных помощников и автоматически формировать запросы для их проверки. Этот подход существенно упрощает и ускоряет работу экспертов.
Разработка включает два ключевых алгоритма. Первый отвечает за формирование релевантных запросов для верификации, а второй — за анализ уровня достоверности полученных ответов. Метод основан на представлении запросов и ответов как элементов специальных пространств, где расстояния измеряются через семантическое сходство — то есть, насколько близки по смыслу два текста.
Благодаря таким научным решениям, считают авторы, их разработки найдут применение у программистов и исследователей, работающих с большими языковыми системами, особенно в вопросах повышения их надежности и точности.