Условия создания «как бы живого существа»
Человечество тщетно спорит по двум вопросам:
✔️ Когда искусственный интеллект (ИИ) во всем превзойдет нас, превратившись в Супер-ИИ?
✔️ Что после этого произойдет:
- с помощью Супер-ИИ люди совершат прорыв в рай цифрового бессмертия и всеобщего изобилия?
- или Супер-ИИ истребит нас за ненужностью, создав на Земле новую супер-цивилизацию машин?
О том, что ответа на эти вопросы не существует, ибо сама их постановка ошибочная, мною написано много (например, «Техносингулярность становится технорелигией — [1] и [2]).
Но есть воистину сакраментальный вопрос –
как определить, что мы создали искусственное, но, как бы, живое своенравное существо (способное хотеть и стремиться), а не очередной, пусть и очень сложный инструмент (алгоритм или робота) для достижения наших собственных целей?
Стюарт Кауффман — современный гений уровня Аристотеля, — совместно с Андреа Роли — исследователем ИИ и сложных систем из Болонского университета, — впервые смогли ответить на этот сакраментальный вопрос.
Развивая идеи гения ХХ века — пионера в исследовании сложных систем Уильяма Эшби, — изложенные им в прорывной монографии «Конструкция мозга», Кауффман и Роли смогли определить минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа», способного эволюционировать в меняющейся среде обитания.
- Способность «как бы живого искусственного существа» различать, что ему полезно/выгодно, а что нет (“что такое хорошо и что такое плохо”, — по выражению Эшби). Эта способность заключается в умении классифицировать релевантную информацию из окружающей среды. Данное умение необходимо для создания смыслов, определяющих, что важно для выживания организма в его экологической нише, и направляющих эволюцию специализированных сенсоров. Последние необходимы для улавливания паттернов и определения корреляций между ними, которые затем получают названия, превращаясь в семантическую информацию.
- Помимо названной в п. 1 способности, «как бы живое искусственное существо» должно уметь правильно использовать эту информацию. Как следствие, должны быть разработаны механизмы и средства для действий в мире. В роботизированных терминах можно говорить об исполнительных механизмах и эффекторах, но Кауффман и Роли также включают сюда способность принимать решения и действовать, т.е. иметь политику управления, которая подлежит адаптации и изменениям, согласно принципу “что такое хорошо и что такое плохо” из п. 1.
Названный набор свойств «как бы живого искусственного существа» авторы используют в привязке к 3м важнейшим факторам эволюции.
Доступность семантической информации. Это не семантика Шеннона, а корреляции в окружающей среде, полезные для существа, поскольку несут в себе знания. Доступность — ключевое понятие в биосемиотике, отличной от семиотики компьютеров, оперирующих синтаксисом (битами), а не семантикой. Но мир — это не алгоритмы с операциями над битами, кодирующими символы. Мир — это шишки и вмятины, голод и боль … Это и есть семантика по Кауффману.
Создание смыслов путем анализа «смежного возможного», т.е. через новые возникающие функции и динамические паттерны, которые оказываются полезными, но их невозможно заранее предсказать (как использование отвертки неопределенно и непредсказуемо)
Критичность — динамический режим на границе между порядком и хаосом. «Как бы живые искусственные существа» должны быть спроектированы так, чтобы критические динамические режимы были для них «хорошо»).
1я часть — Станет ли ИИ Големом 21 века?
________________________________
Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!
