Мир искусственного интеллекта (ИИ) развивается быстро, и каждый день появляются новые прорывы в этой области. Но одна проблема преследовала разработчиков ИИ: современные нейронные сети часто “забывают” предыдущие знания, когда их обучают на новых данных. Это ограничивает их способность к непрерывному обучению и препятствует их развитию. Проблема забывания и пластичность: Исследователи из Университета Альберты обнаружили, что большие языковые модели (LLM), которые являются одним из самых распространенных типов ИИ, страдают от “катастрофического забывания”. Это означает, что после обучения на новых данных они теряют способность выполнять задачи, которые они умели выполнять ранее. Решение проблемы: Группа ученых предложила новое решение, которое позволяет ИИ учиться бесконечно. Они предложили метод “перезагрузки” весов в нейронных сетях между сессиями обучения, что помогает сохранить пластичность системы и предотвратить забывание предыдущих знаний. Новые возможности для ИИ: Этот прорыв в
ИИ учится вечно: Прорыв в глубоком обучении откроет новые возможности
26 сентября 202426 сен 2024
1 мин