В прошлой статье цикла мы изучили, откуда взялся сам термин «Искусственный Интеллект», как это направление знаний развивалось и почему сегодня возникла третья волна интереса к ИИ. Ну а сегодня мы продолжим исторический экскурс, и наша тема — искусственные нейроны и нейронные сети, а если более точно — мы изучим первую модель искусственного нейрона. Так что вперёд.
Но перед тем как мы рассмотрим математическую модель нейрона, давайте очень кратко взглянем на то, как устроен и работает биологический нейрон. Хотя одному этому вопросу можно посвятить целый курс, я постараюсь уложиться в пару предложений.
Смотрите. Биологический нейрон, то есть нервная клетка, состоит из тела или сомы, из которого выходит множество отростков. Один из них очень длинный и тонкий называется аксоном. Это выходной отросток, по которому нейрон передаёт электро-химический импульс следующим нейронам в сети. И также есть много коротких и толстых отростков, которые называются дендритами. Это входные отростки — они принимают импульсы с тех нейронов, которые находятся в сети раньше, чем этот нейрон.
Аксон каждого нейрона формирует большое количество синапсов. Синапс — это место соединения выходного аксона и входного дендрита. Через синапс передаётся нервный импульс. А сам нервный импульс формируется на соме нейрона, и фактически сома выступает сумматором, который берёт все входные импульсы, взвешивает их, складывает активирующие с тормозными и принимает решение, запускать импульс дальше по своему аксону или нет. Решение принимается очень просто — если суммарные входные импульсы превышают какой-то заданный порог, то выходной импульс запускается.
Нервная система у живых существ на Земле устроена так, что не сам импульс является носителем информации, а частота этих импульсов. Чем чаще нейрон запускает импульсы, тем больше информации он передаёт дальше по сети. Запомните это.
Ну и давайте я напомню, что в головном мозге человека общая нейронная сеть состоит примерно из 90 миллиардов нейронов, которые соединены друг с другом триллиардами связей. Я писал об этом в прошлый. И это самый сложный объект, известный нам, людям.
Ну что ж. Переходим к искусственному нейрону. В 1943 году американские нейрофизиолог Уоррен Маккаллок и математик Уолтер Питтс предлагают первую модель искусственного нейрона и основанную на нём модель нейронной сети.
Модель довольно простая. На входе у математического нейрона имеется некоторое количество входных битов каждый из которых умножается на некоторый действительный весовой коэффициент от 0 до 1. На выходе осуществляется проверка значения активационной функции, и если это значение выше некоторого порога, то выход равен единице, то есть нейрон активируется. Если же ниже, то выход равен нулю, и нейрон считается неактивированным.
Функцией активации обычно является произвольная монотонно возрастающая функция, принимающая действительные значения в интервале от 0 до 1. Ну а порогом активации является число из этого же интервала.
Сегодня существует большое количество функций активации, каждая из которых имеет свои области применения. Это, к примеру, простая линейная функция с возможными сдвигами по обеим осям, это может быть пороговая функция. Наиболее часто используются сигмоиды — логистическая кривая, арктангенс, гиперболический тангенс и другие. Детальную информацию о функциях активации мы узнаем на занятии, посвящённом искусственным нейронным сетям.
И вот такие искусственные нейроны собираются в нейронные сети. Это значит, что выходы одних нейронов подключены к входам других нейронов. Из-за этого все нейроны в рамках нейронной сети можно классифицировать на три класса: входные, промежуточные и выходные.
Входные нейроны принимают и обрабатывают значения входных параметров. Промежуточные нейроны осуществляют дальнейшую обработку. Ну а выходные нейроны формируют выходной ответ всей нейросети. Вот, например, если мы подаём на вход нейронной сети изображение, то она как-то внутри себя его перерабатывает, а на выходе сообщает, что на изображении нарисовано.
Сама же нейросеть работает по тактам. В этом её отличие от естественных нейронов, которые работают в нашей нервной системе. Если внутри нашей головы все нейроны обычно работают параллельно и абсолютно несинхронизированно, выдавая сигналы тогда, когда накапливается напряжение на липидной мембране клетки, то нейроны в искусственной нейросети работают тоже параллельно, но чётко синхронизированно. На каждом такте нейронной сети осуществляется расчёт всех выходных значений каждого нейрона, а затем осуществляется такт обучения.
Но про это всё мы поговорим чуть позже. Далее в нашем курсе есть модули, которые посвящёны как физиологии нервной системы, так и детальному рассмотрению устройству и методам работы искусственных нейросетей.
Ну а сейчас давайте ещё чуть-чуть погрузимся в историю. Итак, модель Маккаллока и Питтса в своё время вызвала фурор. Но только в 1957 году Фрэнку Розенблатту удалось создать программную реализацию искусственного нейрона и построить на ней искусственную нейронную сеть. Своё изобретение он назвал персептроном.
Персептрон — это тоже математическая модель для распознавания образов. Это очень мощная модель, которая используется и по сей день. При этом она довольно проста. Фактически, персептрон состоит из трёх слоёв искусственных нейронов. В первом слое расположены сенсорные нейроны, то есть такие, которые воспринимают входную информацию. В скрытом слое располагаются ассоциативные нейроны, формирующие связи между образами. И в выходном слое представлены реагирующие нейроны, каждый из которых активируется тогда, когда на входе присутствует какой-либо известный и связанный именно с этим активирующимся нейроном образ.
Существует большое количество разных типов персептронов. И фактически персептрон представляет собой аппроксимирующую и классифицирующую функцию. Существует глубокая и проработанная теория персептронов, основы которой заложил Марвин Минский. Но он же стал и тем, кто на долгие годы похоронил эту идею.
Но при этом надо отметить, что сам Фрэнк Розенблатт не остановился только на программной реализации. Он создал компьютер Марк-1, который работал на персептронах. Фактически, это был первый нейрокомпьютер, который обучался и распознавал образы. Например, он мог распознавать рукописные шрифты.
Всё это легло в основу первой невообразимой шумихи вокруг Искусственного Интеллекта. Сам Фрэнк Розенблатт написал несколько книг с гипотезами о том, как устроен человеческий мозг и на основе чего работает сознание и разум человека. Но все они остались лишь гипотезами. Реальность оказалась намного сложнее, и в те далёкие времена реализовать все идеи для проверки оказалось невозможно.
Сегодня у нас есть все возможность для продолжения тех великих дел. Вполне вероятно, что кто-то и вас станет тем, кто разгадает тайны человеческого разума и создаст настоящий Искусственный Интеллект.
И на этой жизнеутверждающей ноте мы заканчиваем. Сегодня мы кратко прошлись по первой модели искусственного нейрона Маккаллока и Питтса, а также узнали про персептрон Розенблатта. А в следующей статье мы познакомимся с первыми практическими разработками в области Искусственного Интеллекта. Оставайтесь с нами и пока.
