Философ Джон Серл исследовал различие между знанием и пониманием в своей влиятельной книге "Разум, мозг и наука" (1984), где он поставил задачу бросить вызов поллианнам машинного интеллекта.
Серл просит нас представить себе кого-то в комнате, не имеющего родного понимания китайского языка, но хорошо оснащенного набором словарей и правил грамматики. При предъявлении предложения на китайском языке эти ресурсы используются для перевода целевого предложения на родной английский язык. Рассматривая этот мыслительный эксперимент, становится понятно, что не нужно понимать язык, на который переводишь, - нужно только, чтобы перевод был точным.
Китайская комната - это метафорический способ анализа ограничений алгоритмов, например, таких, которые могут перечислять элементы в цифровой сцене или переводить предложения на веб-странице. В обоих случаях правильные решения принимаются без какого-либо "понимания" содержания. Какова же природа такого недостающего понимания, которое ищет Searle?
Характер понимания является самой основой для передачи и накопления знаний.
Существует множество банковских инструментов, которые могут стоять на месте комнаты Searle - например, слайд-правила для решения больших задач умножения, или геометрические конструкции с использованием компаса и транспортеров для доказательства теорем, или правила интегрирования в вычислении для решения больших или даже бесконечных сумм. Эти методы эффективны именно потому, что они избавляют от необходимости понимания. Достаточно просто точно следовать предписанным шагам, чтобы гарантировать желаемый результат.
Чтобы понять, в каждом из этих случаев необходимо объяснить логику и соответствующее использование логарифмов, кинематических-геометрических свойств транспортера или компаса, или лежащей в их основе числовой основы для принятия пределов с прямоугольниками для приблизительных областей. Таким образом, даже в практике повседневной математики мы переживаем раскол между пониманием и предсказанием.
Понимание - это средство, с помощью которого мы преодолеваем мир парадокса и иллюзий, открывая черный ящик знаний для модификации. Понимание - это объяснение оправданных ошибок. Как только мы понимаем, что куб каркаса интерпретируется как твердое тело в трех измерениях, тогда становится понятно, почему мы видим только один кубфон в одно время.
Данные могут быть получены без объяснений и без понимания. Само определение плохого образования просто надо сверлить с фактами: как в изучении истории путем запоминания дат и событий. Но истинное понимание - это ожидание того, что другие люди, или агенты в целом, смогут объяснить нам, как и почему их методы работают. Нам необходимы некоторые средства для воспроизведения идеи и проверки ее точности. Это требование распространяется и на нечеловеческие устройства, претендующие на умственное решение проблем. Машины должны уметь давать отчет о том, что они сделали и почему.
Требование объяснить, что связывает понимание с преподаванием и обучением. Обучение" - это название, которое мы даем эффективной коммуникации причинно-следственных механизмов ("если вы будете следовать этим правилам, то достигнете долгого деления"), в то время как "обучение" - это приобретение интуиции в отношении взаимосвязи между причинами и их последствиями ("вот почему работают правила долгого деления"). Характер понимания является самой основой для надежной передачи и культурного накопления знаний. И, следовательно, оно также является основой всех долгосрочных прогнозов.
Призматический писатель Хорхе Луис Борхес мог размышлять обо всем этом, когда писал в эссе "История Эхо Имени" (1955):
Изолированный во времени и пространстве бог, сон, человек, который безумен и осознает этот факт, повторяет непонятное утверждение. Эти слова и два их отголоска являются предметом этих страниц.
Скажем, что бог - это Вселенная, сон, который мы хотим понять, а машины - это сумасшедший человек, повторяющий свои непонятные высказывания. Взятые вместе, их слова и эхо - это система нашего научного исследования. В XXI веке задача состоит в том, чтобы интегрировать сложные науки с машинным обучением и искусственным интеллектом. Наиболее успешными формами будущих знаний будут те, которые гармонизируют человеческую мечту о понимании со все более туманными отголосками машин.
