Прелюдия
Нейронные сети строятся по очень упрощенному образу и подобию реального человеческого мозга.
Как и почему работает сам биологический прототип конкретно мы мало что знаем. Мы видим только внешние проявления. На входе — сигналы от внешней среды, на выходе — реакция организма. Приемники сигналов — атомы мозга, человеческие нейроны; исполнители — мышцы и другие органы.
В основе физического существования нейронных сетей лежат устройства, умеющие пропускать через себя электрический ток. Они объединены в электрические платы, чипы, сети, т. е. «железо». Благодаря своим физическим свойствам эти устройства (элементы в виде всяких транзисторов и конденсаторов) могут как усиливать, так и ослаблять силу тока. Такая модуляция электрических сигналов позволяет кодировать и переносить информацию. Более того, её можно также хранить и извлекать.
Математическая модель нейрона
Закончиваем рассматривать общие принципы работы нейронных сетей на примере математической модели нейрона. Это — абстрактная, сильно упрощенная версия реального нейрона, которая использует математические уравнения и алгоритмы для описания его работы. Она имеет ряд параметров.
Входные сигналы
Их мы уже рассмотрели раньше.
Веса, пороги и активация
Очень упрощенно можно считать, что элементы типа транзисторов отвечают за логику построения (суть) информации. А конденсаторы — за её хранение.
После приема и сохранения входных сигналов следует их обработка. В математической модели нейрона за это отвечают веса, еще один параметр модели. Исходя из аналогии с княжествами, это — их репутация, досье на каждого. Веса отражают важность информации от княжеств, насколько серьезно их данные следует учитывать в окончательной оценке ситуации.
Т. к. княжества могут быть большими и маленькими, информация от последних может далеко не соответствовать их размеру (аналогия из человеческого мира — размеры государства Израиль и его роль в политике). Для учета таких особенностей вся входная информация «нормируется», т. е. приводится к «общему знаменателю». Границы ранжирования «важности» могут меняться от 0 до 1 или от -1 до +1 (или от минус бесконечности до плюс бесконечности, что равносильно).
Конечно, среди депеш от гонцов хватает всяческих жалоб. Которые поначалу смягчают (ингибируют сигнал) или их просто кладут в долгий ящик.
— What do you call a British person who can't make decisions?
— Indecisive, but polite.
— Как вы называете британца, который не умеет принимать решения?
— Нерешительный, но вежливый.
Но если жалоб становится все больше, приходит момент обратить на них внимание. Это когда уже начался явный переход количества в качество. В модели за это отвечают пороги срабатывания, когда отмахиваться от сигналов просто нельзя. От офицеров, принимающих и анализирующих информацию, выше по инстанции уходит депеша — «пора что-то делать!».
Ответственные лица, получив такую «молнию», решают, что конкретно предпринять. Приводить ли в действие силовые структуры? Или есть еще время поиграться с дипломатическими методами. Можно ли пока оставаться толерантными, или «красная линия» уже пересечена?
— Why did the British person become a scientist?
— They were destined to explore the mysteries of tolerance and diversity.
— Почему англичане становятся учеными?
— Им предназначено разгадать тайну терпимости и многогранности.
Математически выбор решения осуществляется с помощью функций активации.
Резюме математической модели нейрона
Мы схематично рассмотрели главные компоненты (параметры) математической модели нейрона:
- Входные сигналы
- Веса
- Пороговые значения
- Функции активации
Входные сигналы представляют информацию, поступающую на нейрон от других нейронов или от окружающей среды.
Каждый сигнал имеет свой вес, который определяет его важность для нейрона. Веса могут быть положительными или отрицательными. Они задают силу воздействия сигналов на решение нейрона.
Пороги — это значения, которые определяют, будет ли нейрон активирован или нет. Если сумма взвешенных входных сигналов превышает порог, нейрон активируется и передает сигнал дальше. В противном случае он остается неактивным.
Функция активации — это математическая функция, которая определяет, как нейрон будет реагировать на активацию («соразмерность» реакции). Она может быть линейной, сигмоидальной, гиперболическим тангенсом и т.д. Функция активации важна, так как она помогает нам моделировать различные типы поведения нейронов, такие как возбуждение, торможение или адаптацию.
Следует отметить, что для всех подобных структур характерна
Иерархическая организация
На нижнем уровне находится кирпичик: отдельный нейрон, отвечающий за прием и хранение входных сигналов. После первичной обработки может созреть решение (превышение порога) уже начинать беспокоить вышестоящих (активация). Начинается передача данных дальше, в саму службу, объединяющую таких офицеров (слой нейронов). Такие службы подают сигналы в свое ведомство (слой нейронов более высокого порядка). Объединенный сигнал от ведомств поступает в их министерство. Министерства рапортуют правительству. И т. д.
Таким образом нейроны образуют сложные сети, способные воспринимать и анализировать окружающий мир и, вроде бы, мыслить и принимать решения.
Так устроено человеческое общество. И мозг, с его службами. И много еще чего в этом нашем мире. Например, аккаунты в социальных сетях. Немного особняком стоят просто электрические цепи.
Это — глобальная картинка. Для общего представления.
См. также:
Нейронные сети и другие сложные структуры. Часть I. Природные структуры
Нейронные сети и другие сложные структуры. Часть II. Структура Вселенной
Нейронные сети и другие сложные структуры. Часть III. Генетические алгоритмы
Что дальше?
А далее опять придется опуститься ниже. Чтобы понять, как определяются (вычисляются) «репутации» (веса) княжеств (нейронов). Ведь изначально, когда никакой информации нет совсем, возможны только два варианта:
— все в равном положении;
— стартовое состояние задается случайным образом.
Но об этом будем говорить в дальнейшем.
PS.
Если кликнуть по названию канала, то увидите другие статьи. Можно выбрать еще что-то интересное для себя. А для просмотра будущих статей и поддержки автора — лучше вообще подписаться.
Имеется также постоянно обновляемый гид-путеводитель по статьям канала.
#нейросеть #нейронныесети #ИИ #AI #память #ОЗУ #HDD #SSD #neuralnetworks #памятькраткосрочная #памятьдолгосрочная #искусственныйинтеллект #нейроны #модельнейрона