____________________________________________________________________________________________________________
Часть 1. Общее представление об ИНС
Часть 2. История возникновения ИНС
Часть 3. ИНС с биологической точки зрения
Часть 4. Виды архитектур нейронных сетей(1)
Часть 5. Виды архитектур нейронных сетей(2)
____________________________________________________________________________________________________________
Свёрточная нейронная сеть
Свёрточные нейронные сети входят в состав технологий глубинного обучения (deep learning) и имеет существенные различия с рассмотренными выше архитектурами искусственных нейронных сетей. Модель такой сети представлена на рисунке ниже.
Свёрточные нейронные сети состоят из:
1) Свёрточных слоев – происходит наложение фильтра на объект.
2) Слои субдискретизации – уменьшение изображения.
3) Полносвязные слои(обычно персептрон) - используют для классификации.
Эта архитектура является наиболее подходящей для задач, подразумевающих классификацию(определение предмета на изображении), детекцию(поиск и классификация) и сегментацию(попиксельная классификация).
Рекуррентная нейронная сеть
Родоначальником рекуррентных нейронных сетей(в дальнейшем РНС) являлась сеть Хопфилда. Её главным отличием от современных РНС была работа с последовательностями только фиксированного размера. В 1990 году Джеф Элман описал «простую рекуррентную сеть», затронув проблему обучения НС распознаванию временных последовательностей. А спустя 7 лет Хохрейтер и Шмидхубер опубликовали статью «Long Short-term memory», в которой описали решение проблемы долгосрочной памяти простых РНС.Архитектура рекуррентной нейронной сети
Основной областью применения РНС на данный момент является работа с языковыми моделями такими как, анализ контекста и связь слов в тексте. Долгосрочной информацией для РНС является структура языка, в частности грамматика и стилистические особенности текста. Грубо говоря рекуррентная нейронная сеть запоминает порядок слов и может дописать предложение.