Японское открытие вписывает новую статью в «конституцию биоматематики»
Мы точно знаем, что организация работы нейронных сетей мозга так или иначе построена на самоорганизации сетей. Ибо мозг живой. А всё живое (пардон за каламбур) живет путем той или иной самоорганизации. Но что это за самоорганизация, и каков её принцип, - оставалось великой тайной до января 2022.
Но видно не зря я еще два года назад назвал Принцип свободной энергии (ПСЭ) «конституцией биоматематики».
Открытие, сделанное в японском Центре исследований мозга RIKEN, показало, что нейронные сети самооптимизируются на основе этого единого принципы организации жизни и разума.
ПСЭ является попыткой объяснить структуру и функции мозга, предполагая, что любые адаптивные изменения в мозге минимизируют свободную энергию (т.е. ошибку предсказаний его предиктивной модели). Алгоритмически ПСЭ следует концепции машинного обучения, называемой байесовским выводом.
Этот вывод задает способ расчета вероятности события, когда становится доступной новая информация (т. е. новый сенсорный ввод). Агент принимает решения на основе новых поступающих сенсорных данных, с учетом опыта своих прошлых решений и полученных во их исполнение результатов.
Японские исследователи поставили перед искусственной нейронной сетью задачу научиться проходить лабиринт. В результате они обнаружили, что сеть самоорганизуется, изменяя силу своих нейронных связей и связывая прошлые решения с будущими результатами. При этом сеть смогла пройти лабиринт методом проб и ошибок статистически оптимальным образом.
Понять физический смысл открытия проще всего на физической аналогии.
- Для жизни энергия превыше всего.
- Биологическая оптимизация — это естественный процесс, который делает тела и поведение максимально энергоэффективными.
- Понятный поведенческий пример – увязка аллюров (паттернов походки) у лошади (или собаки, кошки …) со скоростью движения. Для каждого аллюра — шага, рыси или галопа — животные выбирают определенную, наиболее энергоэффективную для этого паттерна скорость
- FYI Во время движения шагом расход энергии в 5-6 раз выше, чем в состоянии относительного покоя, а при резвой рыси – расход энергии в 60 и более раз выше.
Затраты энергии сначала увеличиваются (см. рис. ниже) — по мере увеличения скорости в каждом стиле «походки», а затем, при смене паттерна походки с шага на рысь, а также с рыси на галоп, — уменьшаются. Каждый переход снижает количество затрачиваемых усилий: медленная рысь требует меньше усилий, чем быстрый шаг; а медленный галоп метаболически дешевле быстрой рыси. Причем каждый паттерн походки использует одно и то же отношение энергии к расстоянию (примерно 300 джоулей на метр).
Аналогичным образом нейронные сети мозга оптимизированы для обеспечения эффективного управления поведением и передачей информации, сохраняя при этом способность адаптироваться и перестраиваться в меняющихся условиях путем следованию ПСЭ – т.е. минимизируя сюрпризы в предсказаниях своей модели.
Это исследование предлагает универсальное правило для описания того, как мозг самооптимизируется.
«Наша теория может значительно снизить сложность проектирования самообучающегося нейроморфного оборудования для выполнения различных типов задач, что будет важно для ИИ следующего поколения»,
— сказал ведущий автор исследования Такуя Исомура.
Так что, моим читателям есть смысл перечитать мой лонгрид «Конституция биоматематики. Основной принцип жизни и разума».
#Принцип свободной энергии
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях