Компания Baidu объявила о прорыве в области искусственного интеллекта, который сможет «полностью перевернуть отношение к языковым моделям». Новый подход подробно описан в статье, опубликованной на arXiv, и поднимает одну из постоянных проблем ИИ — обеспечение точности нейросетей в отношении фактов.
Речь о новой структуре «самообоснования», позволяющей ИИ критически оценивать собственные знания и процессы принятия решений. Новый алгоритм включает построение траекторий самообоснования с тремя ключевыми процессами: релевантность, доказательства и анализ.
В упрощённом изложении это работает так: сначала система оценивает релевантность полученной информации заданному запросу, затем выбирает и цитирует соответствующие документы, как это сделал бы человек, и, наконец, анализирует свой «путь рассуждения», чтобы сгенерировать окончательный ответ.
Разработчики отмечают, что способность к самоанализу поможет создать ИИ, который окажется не только более точным, но и более прозрачным в своих процессах принятия решений.
В оценках по нескольким наборам данных с последующей проверкой фактов система Baidu, по заявлению разработчиков, превзошла существующие современные модели. При этом она достигла производительности, сопоставимой с GPT-4 при использовании всего 2000 обучающих образцов.
Такая эффективность может оказать большое влияние на всю отрасль. Снижая требования к ресурсам для обучения сложных моделей, новый метод способен привести к росту инноваций со стороны небольших компаний, ранее не имевших необходимых ресурсов. Ожидается, что разработка компании окажется полезна в работе финансовых и медицинских учреждений.
При этом специалисты отмечают, что ИИ всё ещё не хватает тонкого понимания и контекстуальной осведомлённости, которыми обладают люди. Такие системы по-прежнему остаются инструментами распознавания образов, работающие с огромными объёмами данных, а не «сущностями с истинным пониманием или сознанием».