В спорах о наличии сознания у AI всегда много точек зрения и концепций. Мысленный эксперимент «Китайская комната» — один из наиболее известных примеров. Он показывает, что AI способен лишь имитировать настоящий интеллект. С ростом вычислительных возможностей эта имитация может достигнуть такого уровня, что у пользователей создастся впечатление общения с настоящим собеседником.
Что происходит в «Китайской комнате»?
Представьте себе комнату, в которой находится человек, не знающий китайского языка. У него есть подробные инструкции на его родном языке, как использовать китайские иероглифы. Например, если он видит иероглифы 你好 (Привет!), то должен ответить 进展如何? (Как дела?). Однако значение этих символов ему неизвестно.
Через узкое окошко человек, находящийся снаружи, передает записки с вопросами на китайском языке. Этот человек знает китайский, но не знает, кто находится внутри комнаты и какими знаниями он располагает.
Испытуемый в комнате получает записки на китайском языке, сверяет их со своими подробными инструкциями и отправляет ответы. Они составлены так, что человеку снаружи кажется, будто находящийся внутри свободно владеет китайским. Но при этом сам испытуемый не понимает значения вопросов и своих ответов.
О чем говорит эксперимент?
Этот мысленный эксперимент в 1980 году предложил философ Джон Сёрль. Его цель — показать, что даже если компьютерная программа имитирует понимание языка, это еще не значит, что она его действительно понимает.
Все за и против
«Китайская комната» вызвала споры как среди сторонников AGI, так и со стороны скептиков, AI-пессимистов.
Сторонники сильного искусственного интеллекта, например, австралийский философ Дэвид Чалмерс, указывают на недостатки эксперимента. Он не учитывает возможности распределенной обработки информации в нейронных сетях, как это происходит в мозге. AI-оптимисты считают, что в будущем нейросети смогут действительно понимать язык.
Однако сам Сёрл настаивает, что даже в случае распределенной обработки информации AI будет оперировать лишь синтаксическими конструкциями, в то время как сознание обладает ментальными состояниями, содержащими смысл. По мнению философа, человеческий разум воспринимает язык не просто как наборы символов, а согласно их значению.