Эксперимент «Китайская комната», предложенный философом Джоном Серлом, представляет собой мысленный эксперимент, направленный на то, чтобы подвергнуть сомнению идею о том, что компьютерная программа действительно может понимать язык и иметь сознание. В эксперименте человека помещают в комнату и дают записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов, и человек просто следует этим инструкциям. Экспериментатор, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а человек исполняет алгоритм так же, как его исполнил бы компьютер. Хотя человек может давать связные ответы, он не понимает значения символов, демонстрируя, что система манипулирования символами может создавать иллюзорную видимость понимания языка.
Этот эксперимент часто используется, чтобы доказать, что даже высокоразвитая компьютерная программа, которая, кажется, понимает язык и выполняет задачи, подобные человеческим, не сможет по-настоящему понять значение символов, которыми она манипулирует. Он предполагает, что сознание и понимание — это нечто большее, чем просто манипулирование символами, и что компьютер, каким бы продвинутым он ни был, не может по-настоящему воспроизвести человеческую мысль и сознание.
Эксперимент «Китайская комната» подчеркивает разницу между синтаксисом и семантикой. Синтаксис относится к правилам и структуре языка, а семантика относится к значению слов и предложений в языке. По мнению Сёрла хотя компьютерная программа может манипулировать символами и реагировать в соответствии с синтаксисом языка, она не может по-настоящему понять семантику или значение слов и предложений.
Кроме того, эксперимент затрагивает концепцию «теста Тьюринга», который проверят способность машины демонстрировать интеллект, эквивалентный человеческому через возможность свободного общения с людьми. Хотя компьютерная программа может пройти тест Тьюринга, убедив оценщика-человека в том, что она является человеком, эксперимент с китайской комнатой предполагает, что это не доказывает, что программа действительно понимает язык или обладает сознанием.
Можно сказать, что эксперимент «Китайская комната» является важным вкладом в дискуссию об ограничениях искусственного интеллекта и истинной природе сознания и понимания. Он предполагает, что сознание и понимание — это нечто большее, чем просто манипулирование символами, и что настоящий человеческий интеллект может быть недосягаем для компьютеров и программ искусственного интеллекта.
