Недавние разработки в области искусственного интеллекта показали, что нейросети могут не только решать задачи, но и осознавать свои ограничения. Исследователи из Калифорнийского университета в Сан-Диего и Университета Цинхуа предложили уникальный подход для повышения точности работы больших языковых моделей (LLM). Теперь они могут оценивать свою уверенность в ответах и, если требуется, обращаться за помощью для улучшения результатов.
Что изменилось?
Ранее нейросети решали задачи, полагаясь исключительно на свои алгоритмы и данные. Но теперь, благодаря внедрению двухэтапного обучения, модели учатся использовать внешние инструменты для повышения точности. На первом этапе — "Дистилляция знаний" — LLM учится справляться с задачами при помощи внешних ресурсов, что помогает накапливать экспертные знания по теме. Во втором этапе, "Адаптация инструментов", языковая модель классифицирует задачи по сложности и принимает решение о том, с каким уровнем уверенности она может справиться самостоятельно, а когда лучше обратиться за дополнительной помощью.
Что это дает?
Тесты показали впечатляющие результаты: модель с 8 миллиардами параметров стала на 28,18% точнее, чем её более крупные аналоги. Это открытие ставит под сомнение прежнее мнение о том, что для достижения высокой точности необходимо увеличение масштаба модели. Новая методика доказала, что модель может быть эффективно обучена и без избыточных размеров, если она правильно оценивает свои возможности и взаимодействует с внешними источниками знаний.
Это поднимает важный вопрос: чем меньше, но умнее, тем лучше? Возможно, в будущем крупные модели уступят место более гибким, которые могут работать быстрее и точнее, несмотря на меньшие размеры. 🤖
Этот подход открывает новые горизонты для разработки более точных и эффективных искусственных интеллектов, которые смогут адаптироваться и работать более экономно, не требуя огромных вычислительных ресурсов. Мы увидим, как нейросети становятся всё более "умными", анализируя, когда и за какой помощью стоит обратиться.
Напишите в комментариях! Что, по вашему мнению, ещё могут научиться делать нейросети? 💬
TG Канал: https://t.me/tex_informer