Управляемый рекуррентный блок (GRU – Gated Recurrent Units, УРБ) – механизм Нейронных сетей (Neural Network), объединяющий кратковременную и долговременную виды памяти в одно состояние. Механизм создан в 2014 году, и это разновидность Рекуррентной нейронной сети (RNN), набирающая большую популярность. Давайте посмотрим, как она работает. Вы все знаете, что базовая RNN страдает от проблемы с кратковременной памятью. Например, мы пытаемся сделать автозаполнение последнего слова для утверждения: «Дхавал...
Что такое РНН?
Рекуррентная нейронная сеть - это тип нейронной сети глубокого обучения, которая запоминает входную последовательность, сохраняет ее в состояниях памяти / состояниях ячеек и предсказывает будущие слова / предложения...