А сегодня у нас, возможно, самый знаменитый из мысленных экспериментов философии сознания и философии Искусственного Интеллекта, который называется «Китайская комната». Его предложил Джон Сёрль в 1980 году для, казалось бы, критики и опровержения возможности построения Сильного Искусственного Интеллекта. Давайте посмотрим, удалось ли это автору.
Эксперимент выглядит так. Представим себе комнату, в которой сидит Джон Сёрль, который ни слова не знает по-китайски и не знает ни одного китайского иероглифа. Но у него есть большое количество томов, в которых на английском языке даны инструкции о том, как манипулировать китайскими иероглифами во всех возможных случаях, когда на вход в комнату подаётся записка на китайском языке. Когда это происходит, Джон Сёрль открывает свои тома и начинает манипулировать символами так, что в итоге у него на руках появляется «ответ», который он передаёт в выходное отверстие. Вопрос — понимает ли Джон Сёрль китайский язык, если на выходе всегда грамотные ответы по-китайски?
Проблема в том, что неясно, что такое «понимать». Сам Джон Сёрль может ничего не понимать, но система «Китайская комната» в техническом смысле понимает китайский язык и, возможно, делает это намного лучше, чем некоторые китайцы. Если Джон Сёрль задавался вопросом о наличии некоторого «внутреннего наблюдателя» (которого, к слову, и у нас в голове нет, это обывательская иллюзия), то это к вопросу о понимании не относится. Но мой личный ответ на этот эксперимент ещё проще: «Слабой ИИ-системе и не нужно ничего понимать, а что творится внутри Сильного ИскИна мы познать не сможем точно так же, как не можем познать субъективный мир человека от третьего лица». Ну вот как-то так.