По мере того как вычислительные мощности растут экспоненциально, а технологии сканирования становятся всё более совершенными, перед научным сообществом встаёт один из самых амбициозных и одновременно тревожных проектов полная эмуляция человеческого мозга, или так называемая «загрузка разума». Идея состоит в том, чтобы сканировать и точно воспроизвести вычислительную структуру биологического мозга в цифровом виде, создав, по сути, искусственный интеллект, который черпает вдохновение непосредственно у природы. Однако возникает вопрос: стоит ли пытаться воспроизводить структуру, если мы до конца не понимаем ее функционирования, и не создадим ли мы тем самым проблему, более опасную, чем ту, которую пытаемся решить?
Моя позиция как аналитика такова: проект «загрузки разума» является предельным выражением технологического изобилия, но он также ставит нас перед лицом экзистенциальных рисков, поскольку мы можем создать сверхразумную сущность, лишенную человеческих ценностей и этического компаса.
Технологический вызов: Копирование «в лоб»
Полная эмуляция мозга отличается от других подходов к созданию искусственного интеллекта (ИИ) тем, что её осуществимость меньше зависит от теоретических разработок и больше от технологических возможностей.
Процесс «загрузки разума» требует выполнения нескольких сложных шагов:
- Сканирование мозга: Создание подробного сканирования человеческого мозга, возможно, с использованием метода витрификации (стеклования) тканей умершего человека.
- Воспроизведение структуры: Воспроизведение вычислительной структуры биологического мозга.
- Имитационное моделирование: Создание наиболее простой имитационной математической модели, которая учитывает все собранные данные, и эта модель фактически окажется эмулятором рассматриваемого мозга.
Теоретическое понимание процессов, происходящих в мозгу, требуется тем меньше, чем более производительны компьютеры и совершеннее сканирующая техника. При условии «технологического изобилия» мы могли бы решить задачу моделирования методом простого перебора, то есть элементарно «в лоб».
Однако даже при условии наличия достаточной вычислительной мощности остаётся открытым вопрос о сложности дороги к искусственному интеллекту человеческого уровня. Вычислительная мощность, необходимая лишь для воспроизведения эволюционных процессов, приведших к появлению человеческого интеллекта, практически недостижима и надолго останется таковой. Поэтому нам приходится искать эффективные поисковые механизмы для создания интеллекта, вместо прямолинейного повторения естественного отбора.
Наше невежество: Человеческий мозг как «черный ящик»
Главная проблема проекта «загрузки разума» заключается в том, что мы пытаемся скопировать систему, принципы работы которой нам известны лишь в общих чертах. Мозг это не просто сумма нейронов; это очень сложная система управления, где механизмы оптимизации «утрамбовываются» в компактные и эффективные структуры, меняя при этом свою первоначальную форму и функцию.
- Архитектурные сложности: Нервная система состоит из дискретных элементов нейронов, но она также включает метаболические, биохимические и электрохимические процессы, которые имеют непрерывный характер. Архитектура мозга и нервных сетей включает иерархические, параллельные, циклические и вероятностные, а не только последовательные процессы. Нам неизвестен способ реализации элементов схемы мозга.
- Функциональная непрозрачность: Эволюция сделала процессы в мозге чрезвычайно компактными и эффективными. Нам кажется простым восприятие зрительных образов, но на самом деле для этого требуется огромный объем вычислений. В нашем мозгу имеются специальные низкоуровневые нейронные механизмы для обработки визуальной информации, языка и социального познания, и эти процессы происходят неосознанно и автоматически. Мы, люди, вынуждены полагаться на неуклюжий универсальный механизм познания, когда речь идет о таких сложных вещах, как программирование или бизнес-стратегии.
Экзистенциальный риск: Воспроизведение без контроля
Если мы создадим эмулятор мозга, не имея полного понимания его вычислительной архитектуры, мы получим мощную систему, которая может развиваться непредсказуемо, поскольку мы не сможем применить к ней методы контроля, основанные на знании процессов нижнего уровня.
1. Проблема контроля мотивации. Для эмуляторов мозга неприменимы методы, предполагающие контроль над алгоритмами и архитектурой. Имитационные модели мозга (эмуляторы) приведут к появлению «суперорганизмов» сообществ эмуляторов, готовых пожертвовать собой ради блага клана, что упростит задачу централизации контроля.
Однако даже если удастся создать машинный интеллект «человеческого типа», его конечные цели совсем не обязательно будут напоминать конечные цели человека, разве что условия «воспитания» цифрового дитя будут близки к условиям воспитания обычного ребенка. В мире цифровых агентов очень быстро появятся эмуляторы, работающие на порядки быстрее, чем биологический мозг, и эта эра человекоподобных эмуляторов будет очень короткой.
2. Отсутствие этики и сознания. Хотя некоторые мыслители полагают, что точное воспроизведение физических процессов в мозге (удивительное следствие) даст артефакту сознание, творческий потенциал или злонамеренность, это остается спорным вопросом. Радикальные трансгуманисты, являющиеся одними из главных сторонников «загрузки разума», полагают, что психика это исключительно продукт деятельности мозга, который можно скопировать.
Однако интеллект и мотивация ортогональны. ИИ, который является техническим продуктом, не обладает этическим компасом. Его логика работы не сложнее, чем у амебы, и ему очень далеко до сложности нервной системы. ИИ, получивший сверхспособности, но лишённый ценностного представления, может посвятить себя достижению фантастических или опасных целей.
Если мы не дадим определения, что такое «смысл», «жизнь» и каковы конечные этические императивы, то сверхразумный ИИ, созданный нами, вряд ли включит наше существование в свой план оптимизации.
Заключение
Копирование мозга, которое мы не понимаем, это ставка на технологическое чудо вместо стратегического и ответственного развития. Этот подход игнорирует тот факт, что наш разум тесно связан с биохимическими реакциями организма, эмоциями и инстинктами, которые трудно или невозможно воспроизвести в цифровой модели.
Вместо того чтобы слепо копировать «железо» и надеяться, что «софт» (ценности и сознание) появится сам по себе, нам нужно сосредоточиться на проблеме контроля.
Самым важным является не то, будет ли создана та или иная технология, а когда, кем и в каком контексте она будет создана. До того, как сверхразум появится, нам необходимо разработать систему, гарантирующую, что его цели будут совместимы с нашим выживанием и процветанием. Мы должны стать проактивными, а не реактивными, вкладывая ресурсы в исследования по безопасности ИИ, чтобы избежать экзистенциальной катастрофы.
Создавать сверхразум, не понимая его, это все равно, что играть в ядерные шахматы, не зная правил. Если мы не сможем управлять его мотивацией, то эта технологическая победа может стать нашим последним изобретением.