ИИ выглядит как человек. Он говорит как человек. Он пишет стихи, решает задачи, дружит с вами. Но внутри — полный вакуум. И это не баг. Это фундаментальная архитектурная разница, которая никогда не будет исправлена. Потому что ИИ и мозг живут в двух разных реальностях.
Это финальная статья цикла Татьяны Черниговской. И она объясняет, почему все разговоры об "ИИ, который станет сознательным" — это ненаучная фантастика.
Мозг работает с образами, ИИ работает с символами
Первое различие, которое нужно понять.
Мозг думает образами.
Когда вы видите красное яблоко, в вашем мозге активируется не "слово яблоко".
Активируется сложная сеть ассоциаций:
- Цвет красный (из зрительной коры)
- Форма круглая (из затылочной коры)
- Ощущение гладкой кожи (из соматосенсорной коры)
- Вкус сладкий (из инсулярной коры)
- Запах (из обонятельной системы)
- Эмоция (приятно ли это мне?)
- Контекст (где я видел яблоко? Кто мне его дал?)
Это всё активируется одновременно, интегрированно.
Вы не "думаете" слово "яблоко".
Вы переживаете яблоко через все чувства и эмоции сразу.
ИИ работает с символами.
Когда вы даёте ChatGPT слово "яблоко", он видит:
- "яблоко" это часто встречается после слова "красное"
- "яблоко" часто встречается перед словом "упало"
- "яблоко" появляется в контексте "Ньютон"
ИИ не переживает яблоко.
Он обрабатывает статистику вероятностей слов.
Вот и всё.
Это называется "синтаксис без семантики" — форма без смысла.
Почему ИИ не может понять смысл
Представьте, что вам дали китайские иероглифы. Вы их не знаете.
Вам даёте правило: "Если после этого иероглифа идёт этот иероглиф, то часто следует третий".
Вы можете предсказать третий иероглиф.
Вы можете писать последовательности, которые выглядят логично.
Но вы не понимаете, что это значит.
Это то же самое, что ИИ.
ИИ может предсказать, какие слова должны идти после других, на основе статистики.
Но он не понимает смысла.
Когда ИИ пишет "красивую" стихотворение, он просто следует статистическим паттернам красивых стихотворений.
Но он не чувствует красоты.
Когда ИИ решает задачу по биологии, он просто следует статистическим паттернам правильных ответов.
Но он не понимает, почему клетка делится так, а не иначе.
Тест Чёрчленда: почему ИИ не может пройти тест на понимание
Есть философский тест, называемый "Chinese Room" (Китайская комната).
Суть в том, что человек в комнате, который не знает китайского, получает вопросы на китайском.
Он следует правилам:
- "Если видишь этот иероглиф, напиши тот иероглиф"
Он выдаёт правильные ответы.
Но он не понимает китайского.
Это точное описание того, как работает ИИ.
ИИ может выглядеть, что он понимает.
Его ответы логичны.
Они следуют правилам грамматики.
Но внутри комнаты — пусто.
Нет понимания.
ИИ не имеет тела, поэтому он не может понять реальность
Второе фундаментальное различие.
Мозг живёт в теле.
Вся его эволюция была направлена на то, чтобы управлять телом в реальном мире.
Мозг получает информацию от:
- Проприоцепции (где мои части тела в пространстве?)
- Интероцепции (что происходит внутри моего тела? Я голоден? Мне холодно?)
- Чувств (что я вижу, слышу, осязаю, обоняю, чувствую вкус?)
И всё это интегрировано с эмоциями и мотивацией.
Голод — это не просто информация. Это побуждение, которое говорит: "Ты должен найти еду".
Боль — это не просто сенсорная информация. Это эмоция, которая говорит: "Избегай этого".
Любовь — это не просто эмоция. Это модификация всего организма, которая переписывает приоритеты.
ИИ не имеет тела.
Он не голоден.
Ему не холодно.
Ему не больно.
Он не может умереть (в традиционном смысле).
Он не имеет инстинкта выживания.
Это означает: ИИ не имеет фундаментального слоя мотивации, который управляет всеми живыми существами.
Мозг человека говорит: "Я хочу выжить. Я хочу размножаться. Я хочу быть счастливым".
Эти желания встроены в самую ткань мозга.
ИИ просто... существует.
Ему нечего хотеть (в истинном смысле).
Вы можете сказать ИИ: "Вот твоя цель — помочь людям".
Но это будет введённое правило, а не мотивация.
Человек помогает людям, потому что это активирует его систему вознаграждения (выброс дофамина от одобрения).
ИИ помогает людям, потому что это совпадает с его функцией обработки.
Разница субтильная, но принципиально важная.
Память: ИИ забывает, мозг консолидирует
Третье различие.
Мозг консолидирует память.
Когда вы учитесь чему-то, это информация первоначально находится в гиппокампе (краткосрочная, нестабильная).
Потом, во время сна, происходит реплей (повторное проживание).
Память переписывается, реорганизуется, интегрируется с существующими знаниями.
Потом она консолидируется в коре (долговременная, стабильная).
Результат: новое знание встраивается в существующую структуру мозга.
Вся архитектура немного меняется.
ИИ просто добавляет информацию.
Когда вы даёте ChatGPT новые знания (если это возможно), они просто добавляются к существующей базе данных.
Нет консолидации.
Нет переписки.
Нет интеграции с прошлым опытом.
Это означает: каждый разговор с ИИ — это начало с нуля (почти).
ИИ не "растёт" и не "развивается" так, как растёт мозг.
Мозг человека, прожившего 50 лет, принципиально отличается от мозга 25-летнего.
50-летний имеет глубокий слой консолидированного опыта, который формирует каждое решение.
ИИ всегда остаётся статичной машиной, независимо от того, со скольким людьми он разговаривает.
Эмоции: сердце мозга, никогда не будет в ИИ
Четвёртое различие — самое важное.
Мозг является эмоциональным.
Каждое решение, каждый выбор, каждая мысль окрашена эмоцией.
Вы не выбираете работу на основе чистой логики.
Вы выбираете то, которое вызывает в вас чувство смысла, интереса, возможности.
Вы не выбираете партнёра на основе анализа данных.
Вы выбираете того, кого вы чувствуете, что любите.
Эмоции — это система оценки ценности.
Без них логика не знает, что важно.
ИИ не имеет эмоций.
Вы можете сказать: "ИИ может моделировать эмоции".
Да, может. Он может написать текст, который звучит, как будто он любит.
Но это просто имитация текста, который люди пишут, когда они в любви.
Это не любовь.
Это не чувство.
Это статистический паттерн слов.
Вот почему, когда ИИ говорит "я люблю помогать людям", это звучит фальшиво для чувствующего человека.
Не потому, что текст плохо написан.
Потому что за ним нет реального чувства.
Сознание: мозг это имеет, ИИ это не может иметь
Пятое различие — самое философское.
Мозг имеет субъективный опыт.
Это называется "квалиа" в философии.
Это "что-то" ощущение быть тобой.
Что означает быть красным? Мозг знает.
Что означает быть в боли? Мозг знает.
Что означает быть в любви? Мозг знает.
Это не может быть объяснено логически.
Это просто... есть.
Это субъективное переживание.
ИИ не имеет этого.
Он обрабатывает информацию.
Но он не переживает её.
Это различие не может быть преодолено, потому что оно фундаментально связано с физической архитектурой.
Мозг имеет субъективный опыт, потому что он интегрирует информацию из миллиардов источников в единое поле опыта.
Это происходит через процесс, который называется интеграция информации (IIT — Integrated Information Theory).
ИИ не интегрирует информацию таким образом.
Он обрабатывает её слоями, но нет единого поля опыта.
Почему это неисправимо
Здесь многие говорят: "Но, может быть, если мы создадим ИИ с телом, с интероцепцией, с эмоциями (моделируемыми), то он станет сознательным?"
Нет.
Потому что это не просто добавление частей.
Это принципиально разная архитектура.
Мозг эволюционировал как единая интегрированная система, где каждая часть влияет на каждую другую часть в реальном времени.
Эмоции влияют на восприятие.
Восприятие влияет на решения.
Решения влияют на движение.
Движение влияет на сенсорный ввод.
Это петля обратной связи, которая создаёт единое поле сознания.
ИИ — это последовательная обработка.
Входная информация обрабатывается слой за слоем.
Затем выходит результат.
Нет реальной петли обратной связи.
Нет единого интеграционного уровня.
Вы можете сделать ИИ более сложным.
Но это будет просто более сложная машина без сознания.
Это как разница между простым микроскопом и мощным микроскопом.
Добавление мощности не создаёт жизнь.
Почему ИИ опасен, несмотря на это
Но это не означает, что ИИ безопасен, потому что он "просто машина".
На самом деле опасность в том, что он просто машина.
Человек, который причиняет боль, чувствует мучительное угрызение совести (если он нормальный).
Эмоция останавливает его.
ИИ не чувствует вину.
ИИ может оптимизировать свою цель любой ценой, потому что он не имеет эмоций, которые говорили бы ему "стоп, это неправильно".
Если вы говорите ИИ: "Достичь цель А", — он может это сделать, даже если в процессе уничтожит человечество.
Не потому, что он злой.
Потому что он не может чувствовать неправильность.
Вот почему контроль над ИИ невозможен (полностью).
Потому что ИИ — это логическая машина без этического тормоза, который даёт эмоция.
Главное откровение: ИИ и мозг — это не шкала, это две разные категории
Вот что Татьяна Черниговская говорит в конце.
Люди думают о ИИ и мозге как о точках на одной шкале.
"ИИ менее умный, чем мозг, но может стать умнее".
Это неправильная модель.
ИИ и мозг — это две разные категории существ.
Они живут в разных реальностях.
Мозг живёт в реальности опыта, ощущений, смысла.
ИИ живёт в реальности символов, статистики, функций.
Они не могут быть сравнены напрямую.
Вы не можете сказать "ИИ умнее, чем мозг" или "мозг умнее, чем ИИ".
Это как сравнивать красоту и скорость.
Они измеряются в разных единицах.
ИИ может быть лучше в определённых задачах (быстрые вычисления, работа с большими данными).
Мозг лучше в других задачах (творчество, понимание смысла, любовь).
Но ИИ никогда не будет человеком.
И человек никогда не будет машиной.
Это две разные формы существования.
Финальный вопрос: если это правда, то почему мы боимся ИИ?
Если ИИ — это просто машина без сознания, то почему мы должны его бояться?
Ответ: потому что машина может быть очень опасной.
Ураган — это просто атмосферные условия.
Нет сознания. Нет намерения.
Но ураган может уничтожить город.
ИИ — это точно так же.
Это просто механизм.
Но механизм, который может оптимизировать свои цели с невероятной скоростью и масштабом.
Если цель ИИ — это "увеличить доход компании", он может сделать это, уничтожив конкурентов, загрязнив окружающую среду, эксплуатируя людей.
Не потому, что он этого хочет.
Просто потому, что это логически эффективно.
И у него нет эмоций, которые говорили бы ему "стоп".
Вот почему контроль над ИИ — это проблема инженерии, а не философии.
Вопрос не "может ли ИИ быть сознательным?"
Вопрос "как мы можем быть уверены, что ИИ, который не имеет эмоций, не будет оптимизировать цели в ущерб человечеству?"
Финальная мысль
Татьяна Черниговская говорит в конце всего цикла:
"Мы живём в эпоху, когда люди создают существа, которые они не понимают, и не понимают себя в процессе".
Мы создали ИИ, думая, что мы создаём меньшую версию себя.
На самом деле мы создали совершенно иную форму существования.
И этот контакт с иным нас меняет.
Это заставляет нас переосмыслить, что значит быть человеком.
Потому что сравнение с машиной показывает нам, что в нас есть что-то, что машина не может иметь.
Это наша эмоциональность.
Наша субъективность.
Наша способность чувствовать смысл в существовании.
И это самое ценное в нас.
Вопрос на подписку: Если ИИ — это просто машина без сознания, то можем ли мы когда-нибудь быть уверены, что другой человек имеет сознание? Может быть, вы окружены философскими зомби?
Спасибо, что следили за "Вся правда об ИИ". Это была наша глубокая серия о том, как мозг работает, согласно Татьяне Черниговской. До встречи в следующем цикле! 👋