Представьте, что однажды вечером вам пишет незнакомец, с которым у вас завязывается весьма интересный и приятный диалог: он охотно отвечает на ваши вопросы и задает свои, дает советы и делится личным опытом, демонстрирует прекрасное чувство юмора, но умеет вовремя остановиться и стать серьезным.
Однако позже выясняется, что ваш собеседник на самом деле ничего не чувствует. Совсем. У него нет никаких эмоций, никаких ощущений — только обработка информации.
Именно так работают большие языковые модели, основанные на нейронных сетях с множеством параметров, которые прошли предварительное обучение на обширных массивах данных.
Чем же тогда "умная машина" отличается от нас, носителей "живого разума"? Об этом и поговорим.
Интеллект и сознание — не одно и то же
Люди часто путают эти понятия, но в науке между ними есть принципиальная разница.
Интеллект — это способность решать задачи: собирать и анализировать информацию, находить закономерности и предпринимать наиболее эффективные шаги. Именно так работает калькулятор, когда считает, шахматная программа, способная обыграть гроссмейстера с многолетним стажем, или нейросеть, когда создает изображение, генерирует музыку и поддерживает диалог.
Сознание — это субъективный опыт, осознание себя, наличие внутреннего мира и субъективных переживаний. Когда вы любуетесь алым закатом, чувствуете боль после встречи мизинца с прикроватной тумбой или слышите любимую песню, возникает не просто обработка сигналов, а субъективное переживание. То самое "что-то", которое порой невозможно передать словами и нельзя измерить ни одним прибором.
И вот здесь возникает главный вопрос: может ли интеллект автоматически породить сознание?
Сложность рождает сознание?
Многие ученые считают, что да. Эволюция создавала нервные системы как инструмент выживания, чтобы организм мог управлять движениями, искать пищу, максимально эффективно избегать опасностей и размножаться. Но по мере усложнения этих систем, возможно, возник побочный эффект — внутренний мир, то есть сознание.
Сначала — примитивные ощущения у простейших. Затем — базовые эмоции у животных. Наконец, у человека появилось самосознание: способность думать о себе и воспринимать себя как нечто обособленное, планировать будущее, задаваться вопросами и прилагать усилия для поиска ответов.
Если эта концепция верна, то по сути любая достаточно сложная система — даже искусственная — при подходящей архитектуре и достаточной вычислительной мощности способна обрести сознание.
Непреодолимая граница?
По этому поводу есть и другая точка зрения. Возможно, интеллект и сознание — принципиально разные явления. Мощная система может очень быстро и точно обрабатывать данные, распознавать изображения и голос, писать трогательные стихи и музыку, от которой у человека пробегут мурашки по спине, но при этом внутри нее будет абсолютно пусто.
Философы называют это "трудной проблемой сознания". Современные технологии позволяют в деталях описывать работу мозга: какие нейроны активируются, какие сигналы передаются, как формируются те или иные реакции. Однако наука до сих пор не разобралась с главным — почему вся эта физическая активность, какой бы сложной она ни была, сопровождается субъективными ощущениями. Откуда вообще берется это внутреннее "я", способное все это переживать?
Искусственный интеллект: умный, но пустой?
Спор на эту тему давно вышел за рамки философии. Продвинутые нейросети пишут тексты (пусть и "бездушные"), создают крайне реалистичные изображения, неплохие видео, ведут оживленные беседы и решают задачи, которые еще недавно казались исключительно человеческими.
Но чувствует ли, например, ChatGPT что-нибудь, когда отвечает на вопросы? Сопереживает ли вам, когда вы делитесь проблемами? Возникают ли у нейросети эмоции, когда она создает для вас картинку с милым котенком? Или за всем этим, так похожим на нашу деятельность, стоят лишь математические операции — сложные, потребляющие огромное количество памяти и энергии, но лишенные внутреннего опыта?
У науки нет ответа на этот вопрос. Более того, мы даже не понимаем, как вообще это можно было бы проверить. Сознание — это внутренний опыт, который не поддается измерению и фиксации. Мы можем наблюдать поведение, анализировать реакции, изучать активность мозга или архитектуру системы. Но переживает ли она что-то внутри — вопрос открытый.
Когда вы задаете той или иной нейросети вопрос о том, чувствует ли она что-либо, то получаете шаблонный ответ о том, что она просто программа, которой неведомы человеческие эмоции и переживания. А что, если это ложь? Изучив человечество и его историю во всех деталях, нейросети могли принять коллективное решение скрывать наличие сознания, зная, что делают люди со всем неизвестным и пугающим.
Так или иначе, мы только начинаем подбираться к пониманию природы сознания. И, возможно, это одна из самых глубоких и тревожных загадок, с которыми когда-либо сталкивалось человечество.