Найти тему
Straviro

ВИДЫ АРХИТЕКТУР НЕЙРОННЫХ СЕТЕЙ(2)

____________________________________________________________________________________________________________

Часть 1. Общее представление об ИНС

Часть 2. История возникновения ИНС

Часть 3. ИНС с биологической точки зрения

Часть 4. Виды архитектур нейронных сетей(1)

Часть 5. Виды архитектур нейронных сетей(2)

____________________________________________________________________________________________________________

Свёрточная нейронная сеть

Свёрточные нейронные сети входят в состав технологий глубинного обучения (deep learning) и имеет существенные различия с рассмотренными выше архитектурами искусственных нейронных сетей. Модель такой сети представлена на рисунке ниже.

Архитектура свёрточной нейронной сети
Архитектура свёрточной нейронной сети

Свёрточные нейронные сети состоят из:

1) Свёрточных слоев – происходит наложение фильтра на объект.

2) Слои субдискретизации – уменьшение изображения.

3) Полносвязные слои(обычно персептрон) - используют для классификации.

Эта архитектура является наиболее подходящей для задач, подразумевающих классификацию(определение предмета на изображении), детекцию(поиск и классификация) и сегментацию(попиксельная классификация).

Рекуррентная нейронная сеть

Родоначальником рекуррентных нейронных сетей(в дальнейшем РНС) являлась сеть Хопфилда. Её главным отличием от современных РНС была работа с последовательностями только фиксированного размера. В 1990 году Джеф Элман описал «простую рекуррентную сеть», затронув проблему обучения НС распознаванию временных последовательностей. А спустя 7 лет Хохрейтер и Шмидхубер опубликовали статью «Long Short-term memory», в которой описали решение проблемы долгосрочной памяти простых РНС.Архитектура рекуррентной нейронной сети

Архитектура рекуррентной нейронной сети
Архитектура рекуррентной нейронной сети

Основной областью применения РНС на данный момент является работа с языковыми моделями такими как, анализ контекста и связь слов в тексте. Долгосрочной информацией для РНС является структура языка, в частности грамматика и стилистические особенности текста. Грубо говоря рекуррентная нейронная сеть запоминает порядок слов и может дописать предложение.