В данной публикации детально описаны принципы работы нейросетевых моделей, а именно нейронная машина Тьюринга, дифференцируемый нейронный компьютер, а также его модификации. Перечислены сферы применимости этих моделей. Выделены преимущества этих моделей по сравнению с более ранней успешной моделью LSTM. Описаны недостатки этих моделей, а также способы их устранения. Дано теоретическое обоснование того факта, что выше рассмотренные нейронные сети с внешней памятью, обладают бо ́льшим потенциалом для решения многих задач, чем LSTM...

Начало Предыдущая глава Кроме нейронов, выдающих дискретные результаты истина-ложь, есть нейронные сети, работающие со шкалами. В памяти такого нейрона записано несколько значений и выходное значение нейрона показывает результат в определенном значении шкалы. Например, нейрон освещенности выдает значение в виде шкалы светло-темно: Такие нейроны называют дифференцирующие, они дифференцируют входную информацию по определённому признаку и выдают результат пропорционально шкале. Система дифференцирующих нейронных сетей также сложна как международная система единиц СИ...