Принцип работы нейронной сети схематично выглядит так:
- Информация в виде текста, изображений или в ином формате поступает на внешний слой. Нейроны внешнего слоя распознают ее, классифицируют и передают дальше.
- В скрытом слое происходит основная работа. Скрытых слоев может быть несколько, иногда их количество доходит до миллиона. При прохождении через скрытые слои предыдущие значения данных умножаются на вес связи, после чего результаты суммируются.
- Ответ сети формируется в выходном слое. Формат ответа также может быть любым.
В начале обучения нейронная сеть классифицирует веса случайным образом. В процессе обучения вес нейронов увеличивается, если они вносят вклад в правильные решения. Этот процесс можно ассоциировать с обучением мозга человека, где укрепление связей между нейронами происходит благодаря усвоению новой информации.
Сеть не создаёт уникальные результаты, поскольку она действует только на основе уже имеющегося опыта. Чем больше опыта у нейросети – тем точнее будут результаты, которые она выдает.
Чтобы работать с нейросетями, нужно знать другие термины, обозначающие особенности их работы:
Функция активации - Процесс нормализации входных данных с использованием искусственного интеллекта до определенного диапазона может быть осуществлен с помощью линейной функции, которая может быть автоматически применена для передачи значений без изменений. Также этот метод может использоваться при тестировании нейронной сети. Сигмоидная функция активации, которая создает значения в диапазоне [0,1], и гиперболический тангенс, который позволяет работать с отрицательными значениями (например, в финансовой сфере), обеспечивают более широкий выбор возможных вариантов для адаптации входных данных.
Тренировочный сет – последовательность данных, которые использует нейросеть.
Итерация – количество тренировочных сетов, которые прошла нейронная сеть.
Ошибка – производная, которая демонстрирует расхождение между полученным ответом и ожидаемым. Число ошибок в процессе обучения должно идти на спад.
Как работает нейросеть на примере?
Приведем простой пример работы нейросетей с использованием весов (коэффициентов). Предположим, мы хотим узнать у нейросети, стоит ли в выходные ехать за грибами в лес. Ответов может быть только два – да или нет. Результат зависит от нескольких факторов, которые будут заданы в виде вопросов:
- Начался ли грибной сезон?
- Популярно ли место?
- Будет ли в выходные дождь?
Входные данные следующие:
- x1 = 1 – сезон начался.
- x2 = 0 – лес известен немногим.
- x3 = 1 – по прогнозу, будет сухая погода.
Далее всем полученным значениям будут присвоены веса, которые помогут определить их значимость:
- W1 = 5 – сезон очень короткий.
- W2 = 2 – другие грибники не станут помехой.
- W3 = 4 – поскольку грибы нужно собирать в сухую погоду.
Пороговое значение (и значение смещения) обозначим как 3. Формула будет выглядеть так:
Y-hat = (1*5) + (0*2) + (1*4) – 3 = 6.
Таким образом, в сумме получился результат 6, который в два раза больше исходного. Обработав весь массив входящих данных, нейронная сеть с точностью сделала вывод, что в выходные можно ехать за грибами.
Обучение нейронных сетей.
Одним из основных признаков нейронных сетей является их способность к обучению. Перед началом обучения веса нейронной сети инициализируются случайными значениями. Обучающие данные подаются на входной слой, проходят через промежуточные слои и постепенно корректируются в процессе обучения. Этот процесс повторяется до тех пор, пока результаты обучения не станут стабильными и согласованными.
Практически все модели машинного обучения используются градиентный спуск, который применяется для обучения нейронных сетей как метод обратного распространения ошибки.
Существуют следующие методы обучения:
С учителем. Пользователь дает сигнал на вход, получает на выходе ответ нейросети, затем сравнивает его с уже известным правильным. После этого с помощью специальных алгоритмов меняются веса связей и снова задается входной сигнал. Процесс продолжается до тех пор, пока нейросеть не начнет отвечать точно. Такое обучение называют также контролируемым.
Без учителя. Метод применяют, если нет правильных ответов на входные сигналы. Сеть в этом случае, используя собственную память, делит объекты на классы, то есть начинает кластеризацию. Эталонные ответы при этом не показаны. Данный тип обучения называют глубоким: система все время обучается сама.
С подкреплением. Такие нейросети обучаются самостоятельно, но при этом взаимодействуют с окружающей средой, которая специально моделируется и становится обучающей. Чаще всего такой подход применяют в робототехнике и разработке игр.
В зависимости от типа входной информации выделяют аналоговые, двоичные и образные нейросети.
Следовательно, мы можем сделать вывод, что современные сложные нейронные сети основаны на принципах глубокого обучения. Они способны самостоятельно обучаться и решать сложные задачи без участия человека.