Опубликован «Меморандум Фристона»
«Меморандум Фристона» меняет базовые концептуальные основы исследований и разработок, имеющих целью создание человекоподобного ИИ.
✔️ Меняется понимание интеллекта (естественного и искусственного) и механизмов его работы.
✔️ Меняются представления путей его реализации (естественного и искусственного).
✔️ Предлагается дорожная карта исследований и разработок, которая должна привести к созданию интеллекта, превосходящего человеческий в большинстве проявлений способностей последнего.
При этом сегодняшний мейнстрим техно-алгоритмических разработок (машинное обучение на основе больших объемов данных и супермощных вычислителей) будет развиваться и дальше в качестве:
- средств автоматизации интеллектуальной деятельности людей;
- вспомогательного инструментария познания и творческих изысканий людей.
Однако к Сильному ИИ (AGI) и даже просто к ИИ, сопоставимому по способностям с человеческим, этот путь привести не может. Нужна полная смена парадигмы. Что и стало предметом «Меморандума Фристона».
И хотя под этим меморандумом стоят подписи 20 исследователей из 6 стран (США, Великобритания, Канада, Австралия, Германия и Нидерланды), список авторов возглавляет «великий и ужасный» Карл Фристон, ставший в декабре Научным руководителем исследовательского центра VERSES Research Lab, объединившего весь этот интернациональный коллектив с целью создания человекоподобного ИИ, превосходящего людей.
Фристона нет нужды представлять моим читателям. Как я писал два года назад:
«Карл Фристон — гений. По фундаментальности и парадоксальности мышления он похож на Эйнштейна и Шредингера. А по междисциплинарному охвату (фундаментальная теория и прикладной научный инструментарий, психиатрия и наука о мозге, биология и физика, математика и психоаналитика …) здорово напоминает Леонардо да Винчи. Подтвердится ли такая моя оценка, — история покажет. А пока будем опираться лишь на неоспоримые факты.»
Сегодня фактов в подтверждение сказанному предостаточно. Назову лишь то, что Фристон — автор «конституции биоматематики» — основного принципа жизни и разума. Это принцип лег в основу новой парадигмы, описываемой в 33-х страничном «Меморандуме Фристона», формальное название которого «Designing Ecosystems of Intelligence from First Principles».
Об этом меморандуме стоило бы написать лонгрид, позволяющий в деталях рассмотреть каждое из кардинальных изменений существующей парадигмы, предлагаемых авторами. Но сейчас у меня не получается (и так из-за инцидента с кражей моего Телеграм канала первый рассказ о меморандуме запоздал на неделю).
Поэтому скажу здесь лишь о самом главном.
ФИЗИКО-МАТЕМАТИЧЕСКИЕ ОСНОВЫ НОВОЙ ПАРАДИГМЫ ИНТЕЛЛЕКТА
- В основе новой парадигмы лежит фундаментальный физический принцип — Принцип свободной энергии (Free-Energy Principle). Это интерпретация Принципа наименьшего действия Гамильтона (одно из ключевых положений современной физики, распространяющееся на все фундаментальные взаимодействия) для описания работы мозга.
- Процесс применения Принципа свободной энергии к действию интеллектуального агента назвается Активным выводом (Active Inference). На нейронном уровне этот процесс является расширением Байесовского вывода (Bayesian Inference) — вероятностного вывода, основанного на теореме Байеса.
ПОНИМАНИЕ ИНТЕЛЛЕКТА (ЕСТЕСТВЕННОГО И ИСКУССТВЕННОГО) И МЕХАНИЗМОВ ЕГО РАБОТЫ
- Интеллектуальный агент (агент, обладающий интеллектом) должен быть отелеснен (иметь тело) и обладать способностями воспринимать информацию из окружающей среды и воздействовать на нее.
- Интеллектуальный агент может быть живым (в биологическом понимании), неживым или комбинацией живого и неживого.
- Интеллектом такого агента называется его способность накопления доказательств для собственной генеративной модели воспринимаемого им мира (способность самоподтверждения).
- Интеллект агента некоего уровня возникает в процессе многомасштабных коллективных взаимодействий и действий агентов более низкого уровня.
ПУТИ РЕАЛИЗАЦИИ ИНТЕЛЛЕКТА (ЕСТЕСТВЕННОГО И ИСКУССТВЕННОГО)
- Интеллект, как способность самоподтверждения, может быть реализован с помощью передачи сообщений или распространения убеждений на факторных графах или сетях.
- Механизмом реализации при этом является активный вывод, позволяющий формально описать процесс порождения коллективного разума, как экосистемы интеллектов.
- Ключевым шагом на пути к созданию экосистемы естественного и искусственного интеллекта станет разработка коммуникационных протоколов транзакций и обобщенного языка гиперпространственного моделирования.
ДОРОЖНАЯ КАРТА СОЗДАНИЯ ИНТЕЛЛЕКТА, ПРЕВОСХОДЯЩЕГО ЧЕЛОВЕЧЕСКИЙ
Текущее состояние — Системный интеллект.
Это современный ИИ: а именно, аппроксимация универсальной функции — отображение входных или сенсорных состояний на выходные или состояния действия — которая оптимизирует некоторую четко определенную функцию ценности или стоимость (системных) состояний. Например, глубокое обучение, байесовское обучение с подкреплением и т.д.
Этапы создания интеллекта, превосходящего человеческий.
- Создание Ощущающего интеллекта (примерно через 2 года).
- Создание Сложного интеллекта (примерно через 4 года).
- Создание Сочувствующего (или Понимающего) интеллекта (примерно через 8 лет).
- Создание Общего (или Супер) интеллекта (примерно через 16 лет).
Определение каждого из типов интеллекта см. в «Меморандуме Фристона».
#AGI #Active Inference #Фристон
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях