«Аргумент китайской комнаты» — это аргумент против утверждения, что компьютер действительно может понимать языки и обладать разумом, подобным человеческому.
Представьте, что вы готовите еду — вы пункт за пунктом следуете рецепту, но значит ли это, что вы понимаете весь процесс выпекания, в том числе на химическом уровне?
Аргумент, придуманный философом Джоном Сирлом, поднимает очень важный для 21 века вопрос, сможет ли компьютер когда-нибудь по-настоящему «понять», что он делает, или всё, что он может это просто следовать инструкциям, без реального понимания происходящего.
Джон Сирл придумал этот мысленный эксперимент, чтобы подтолкнуть сообщество на размышления об искусственном интеллекте — компьютерах, предназначенных для самостоятельного мышления и обучения. Сирл хотел показать, что существует разница между простым выполнением чего-либо и реальным пониманием всего процесса.
Представьте себе работника, который всю свою жизнь работает в комнате, выполняя одно задание. Через специальное окошко к нему влетает листок с китайскими иероглифами. В ответ он рисует на другом листе перевод этих иероглифов и бросает новый лист обратно в окошко – и так снова и снова. Важно отметить, что работник не знает, что означают иероглифы, которые он получает. Он просто обращается к специальным учебникам, которые говорят ему, что если на листе бумаги есть иероглиф A, то он должен нарисовать символ В. Работник не знает, что означают символы и иероглифы, у него просто есть руководство, которому он следует.
Цели аргумента китайской комнаты
- Аргумент китайской комнаты задаёт вопрос, действительно ли машины могут «понимать», или это похоже на действия работника из примера выше. Он может делать вид, что понимает, подбирая правильные символы из руководства, но так ли это на самом деле.
- Аргумент бросает вызов тому, обладают ли умные компьютеры разумом: если компьютер ведёт себя так, будто знает что происходит, умен ли он, как мы, или просто притворяется?
Что хотел донести автор?
✔️ Манипулирование символами — это не то же самое, что и их понимание: ттак же, как перемещение шахматных фигур по доске не означает, что вы понимаете как в них играть. Эта часть аргумента заставляет нас задуматься о том, что на самом деле означает «понимать» что-то.
✔️ Машины могут делать вид, что понимают: компьютеры, даже когда они кажутся умными, на самом деле не понимают, что они делают. Они могут быть хорошими актёрами, но по-настоящему прочувствовать роль им не под силу.
✔️ Сознание и когнитивные способности — это не просто вычисления: машине недостаточно выполнять инструкции, чтобы обрести сознание. Понимание и осознанность это не просто обработка данных.
✔️ Наличие инструкции недостаточно для обретения разума: набор инструкций не может заменить реального понимания, которое мы приобретаем с рождением.
Подтверждение аргумента
- Перевод языков: когда компьютер переводит языки, он на самом деле не понимает значения слов.
- Игра в шахматы: компьютер может играть в шахматы, просчитывая ходы, но он не получает удовольствия от игры и не проявляет творческого подхода — это потому, что он на самом деле не понимает игру по-человечески.
- Прогноз погоды: компьютерные программы могут предсказывать погоду, глядя на закономерности, но на самом деле они не «чувствуют» погоду.
- ИИ консультанты: это просто боты, они могут отвечать на вопросы и помогать вам совершать покупки, но на самом деле они не понимают ваших потребностей или чувств — они просто следуют сценарию.
- Яндекс Алиса или Siri: когда вы задаёте вашего голосовому помощнику вопрос, она даёт вам ответ, но на самом деле ничего не «знает» по теме — она просто находит информацию и зачитывает её вам. Это показывает нам разницу между способностью компьютера имитировать понимание и истинным пониманием.
Напоследок:
Аргумент «Китайская комната» — это не просто хитроумная головоломка — это мысленный эксперимент, который заставляет нас усомниться в сути нашего собственного интеллекта и ограниченных возможностях машин. Это ключ к решению, можно ли считать такие создания, как роботы или искусственный интеллект, живыми или обладающими правами.
Этот аргумент побуждает нас задуматься о природе человека и о том, можем ли мы или должны ли мы создавать машины, которые могли бы бросить вызов нашему положению самых разумных существ на планете. Это ставит перед нами этические вопросы, например, заслуживают ли машины, которые, кажется, понимают нас, той или иной формы этического рассмотрения.