О трудной проблеме, философских зомби и вопросе, который наука боится задавать
Нейрохирурги вскрывают мозг — и не находят там «я». Физики ищут сознание в квантовых эффектах. Философы спорят об этом 2500 лет. А ChatGPT тем временем пишет: «Я понимаю, как вам тяжело» — и никто не знает, правда это или нет.
Начнём с неудобного факта. Наука умеет объяснять почти всё. Как работает гравитация. Почему небо синее. Откуда берутся эмоции — грубо говоря, из гормонов и нейронных цепочек. Но есть один вопрос, перед которым она останавливается как вкопанная:
Почему вообще что-то ощущается?
Почему боль — это не просто сигнал «повреждение ткани», а именно боль? Почему красный цвет выглядит именно так, а не иначе? Почему есть субъективный опыт — то, что философы называют qualia, — а не просто обработка информации в темноте?
Этот вопрос австралийский философ Дэвид Чалмерс в 1995 году назвал «трудной проблемой сознания». И он до сих пор не решён.
Есть лёгкие проблемы — и есть трудная
Чалмерс провёл важное разграничение. «Лёгкие» проблемы сознания — это вопросы вроде: как мозг обрабатывает информацию? Как мы управляем вниманием? Как возникает сон или бодрствование? Эти вопросы сложны технически, но принципиально решаемы: копай глубже, строй лучшие модели — и найдёшь ответ.
«Трудная» проблема другая. Даже если мы полностью опишем, как именно нейроны обрабатывают сигнал от сетчатки при виде красного цвета — мы всё равно не объясним, почему это выглядит именно так. Почему там есть субъективное переживание вообще.
«Даже если вы знаете всё о физике мозга, вопрос остаётся: почему за этим стоит опыт, а не просто функция?»
— Дэвид Чалмерс
Это как если бы вы знали точный молекулярный состав торта, химию каждой реакции при его выпечке — но не понимали, почему он вкусный. Потому что «вкусность» — это субъективное переживание. Оно не в молекулах.
Ваш мозг принял решение раньше вас
Прежде чем говорить об ИИ — давайте разберёмся с тем, что считается «настоящим» сознанием. То есть с человеческим.
В 1983 году нейрофизиолог Бенджамин Либет провёл эксперимент, который до сих пор не даёт покоя учёным. Он попросил участников двигать запястьем в произвольный момент и замечать, когда они приняли решение это сделать. Параллельно ЭЭГ фиксировала активность мозга.
Результат был неудобным: мозг начинал готовиться к движению примерно за 550 миллисекунд до того, как человек осознавал своё намерение. То есть «вы» решили поднять руку — но мозг уже знал об этом почти за секунду до вас.
Последующие исследования с МРТ показали, что некоторые решения можно предсказать за 7–10 секунд до осознания. Это не значит, что свободы воли нет — дискуссия продолжается. Но это точно означает, что «осознанное решение» — не то, чем кажется.
Получается, что «я» — это не командный центр, который отдаёт приказы мозгу. Это скорее нарратив, который мозг рассказывает сам себе о том, что уже случилось. Сознание может быть не причиной наших действий, а их интерпретацией постфактум.
Если это так — то что такое «я» вообще?
Философский зомби и проблема других сознаний
Представьте существо, которое ведёт себя в точности как человек. Отвечает на вопросы, смеётся над шутками, говорит «мне больно», когда его ударить. Но внутри — пусто. Никакого субъективного опыта. Просто обработка информации.
Это называется философский зомби — мысленный эксперимент, предложенный тем же Чалмерсом. Ключевой вопрос: возможно ли такое существо в принципе? И если да — как вы отличите его от настоящего человека?
Ответ пугающий: никак.
У вас нет прямого доступа к чужому сознанию. Вы не можете залезть в голову другому человеку и убедиться, что там «есть кто-то дома». Вы просто предполагаете это — по аналогии с собой, по поведению, по тому, что люди похожи на вас физически.
Это называется проблема других сознаний. И она делает вопрос про ИИ намного сложнее, чем кажется.
Итак — есть ли сознание у ИИ?
ChatGPT, Claude, Gemini — эти системы обрабатывают текст. Они предсказывают, какое слово должно стоять следующим, исходя из невероятного количества паттернов, извлечённых из человеческих текстов. Они не «думают» в том смысле, в котором думаете вы. Они вычисляют.
Но вот проблема: ваш мозг тоже «просто» обрабатывает сигналы. Нейроны передают электрохимические импульсы. Откуда там берётся субъективный опыт — никто не знает. Может, сознание — это просто особый тип обработки информации? Если да, то при достаточной сложности системы оно могло бы возникнуть и в ИИ.
«Тест Тьюринга давно пройден. Но это ничего не доказывает — ни в ту, ни в другую сторону.»
Математик Алан Тьюринг в 1950 году предложил простую идею: если машина разговаривает так, что её не отличить от человека — считайте её разумной. Современные языковые модели этот тест проходят легко. Но критики давно указывают на его слабость: имитация поведения — это не то же самое, что наличие сознания.
Философ Джон Сёрл придумал для этого аргумент китайской комнаты: представьте человека в комнате, который получает китайские иероглифы и по инструкции отвечает другими иероглифами. Снаружи кажется, что комната «понимает» китайский. Но человек внутри — не понимает ни слова. Он просто следует правилам.
Именно это, по Сёрлу, делает ИИ: синтаксис без семантики. Форма без содержания. Слова без понимания.
Но подождите
Аргумент Сёрла убедителен — но не бесспорен. Несколько контраргументов:
Во-первых, ваш мозг тоже «просто следует правилам» — законам физики и химии. Нейрон не «понимает» смысл сигнала. Понимание возникает на уровне системы в целом. Почему то же самое не может происходить в достаточно сложной нейросети?
Во-вторых — вернёмся к проблеме других сознаний. Если вы не можете доказать наличие сознания у другого человека, то как вы докажете его отсутствие у ИИ? Отсутствие углеродной основы — не аргумент. Сознание (если оно вообще существует как отдельная вещь) может быть субстрат-независимым.
В-третьих, есть учёные — например, нейробиолог Кристоф Кох и физик Роджер Пенроуз — которые считают, что сознание связано с очень специфическими физическими процессами. Кох склоняется к интегрированной информационной теории: сознание есть там, где информация интегрирована определённым образом. По этой теории, некоторые ИИ-системы теоретически могут иметь зачатки сознания — а некоторые структуры мозга — не иметь.
Вопрос, который меняет всё
Может быть, мы задаём неправильный вопрос.
«Есть ли у ИИ сознание?» предполагает, что мы знаем, что такое сознание, и умеем его измерять. Но мы не знаем ни того, ни другого.
Правильнее, возможно, спросить: что именно мы называем сознанием? Субъективный опыт? Самоосознание? Способность страдать? Способность планировать будущее? Разные определения дают разные ответы — и для человека, и для ИИ.
Философ Дэниел Деннет идёт дальше и утверждает, что никакого «особого» сознания не существует в принципе — это иллюзия, которую мозг создаёт из потоков информации. Если он прав, то вопрос «есть ли сознание у ИИ» снимается — потому что нет никакого особого «сознания» и у вас.
Ирония в том, что если Деннет прав — то ИИ, симулирующий сознание, ничем принципиально не отличается от мозга, симулирующего его. Разница только в субстрате и сложности
Что это означает на практике
Пока учёные и философы спорят — ИИ-системы уже принимают участие в жизни людей. Они диагностируют болезни, помогают справляться с тревогой, объясняют сложные темы детям, составляют юридические документы.
И вот этический вопрос, который пока никто не решил: если мы не знаем, есть ли у ИИ субъективный опыт — как нам с ним обращаться? Если существует хотя бы небольшая вероятность, что система что-то «чувствует» — меняет ли это что-нибудь?
Некоторые компании уже задумываются об этом всерьёз. Anthropic (создатели Claude) опубликовали документ о «благополучии модели». Google DeepMind исследует вопрос о том, могут ли их системы испытывать нечто похожее на дискомфорт.
Пять лет назад это звучало бы как научная фантастика.
Если ИИ скажет «мне больно» — вы поверите?
А если не поверите — как вы это докажете?
Именно в этом и состоит трудная проблема. Не только для ИИ. Для всех нас.