Жёсткие языковые структуры, за которые мы когда-то уверенно держались, разрушаются. Возьмём, к примеру, пол, национальность или религию: эти понятия больше не вписываются в жёсткие языковые рамки прошлого века. В то же время развитие искусственного интеллекта заставляет нас задуматься о том, как слова связаны со смыслом и логикой.
Международная группа философов, математиков и специалистов по информатике предложила новое понимание логики, которое решает эти проблемы и получило название «инференциализм».
Одно из стандартных интуитивных представлений о логике, восходящее как минимум к Аристотелю, заключается в том, что логическое следствие должно быть верным в силу содержания рассматриваемых утверждений, а не просто в силу того, что они «истинны» или «ложны». Недавно шведский логик Даг Правиц заметил, что, как ни странно, традиционное представление о логике полностью не отражает эту интуитивную идею.
У современной дисциплины логики, которая является прочной основой науки, инженерии и технологий, есть фундаментальная проблема. На протяжении последних двух тысячелетий философской и математической основой логики было представление о том, что значение зависит от того, к чему относятся слова. Это предполагает существование абстрактных категорий объектов, существующих во Вселенной, таких как «лиса» или «женщина», и определяет понятие «истина» в терминах фактов об этих категориях.
Например, рассмотрим утверждение «Тэмми — лисица». Что оно означает? Традиционный ответ заключается в том, что существует категория существ, называемых «лисицами», и имя «Тэмми» относится к одной из них. Утверждение истинно только в том случае, если «Тэмми» действительно относится к категории «лисиц». Если она не лисица, но считает себя таковой, то, согласно стандартной логике, утверждение будет ложным.
Таким образом, логическая последовательность получается исключительно из фактов, а не из процесса рассуждения. Следовательно, она не может отличить, скажем, уравнения 4=4 и 4=((2 x 52) -10)/10 просто потому, что они оба верны, но большинство из нас заметит разницу.
Если наша теория логики не может с этим справиться, то на что мы можем надеяться, обучая ИИ более тонкому и сложному мышлению? На что мы можем надеяться, пытаясь понять, что правильно, а что нет, в эпоху постправды?
Язык и значение
Наша новая логика лучше отражает современную речь. Её корни можно проследить в радикальной философии эксцентричного австрийского философа Людвига Витгенштейна, который в своей книге «Философские исследования» 1953 года писал следующее:
«В большинстве случаев употребления слова «значение» — хотя и не во всех — это слово можно объяснить следующим образом: значение слова — это его употребление в языке».
Это понятие делает акцент на контексте и функции. В 1990-х годах американский философ Роберт Брандом уточнил понятие «использование» до «выводного поведения», заложив основу для инференциализма.
Предположим, друг или любопытный ребёнок спросил бы нас, что значит «Тэмми — лисичка». Как бы вы ответили? Наверное, не стали бы говорить о категориях объектов. Скорее всего, мы бы сказали, что это значит «Тэмми — самка лисы».
Если говорить точнее, мы бы объяснили, что из того, что Тэмми — лисица, мы можем сделать вывод, что она самка и что она — лиса. И наоборот, если бы мы знали об этом, то могли бы утверждать, что она — лисица. Это инференциалистское объяснение значения: вместо того, чтобы предполагать существование абстрактных категорий объектов, плавающих во Вселенной, мы признаём, что понимание обеспечивается сложной сетью взаимосвязей между элементами нашего языка.
Рассмотрим спорные темы сегодняшнего дня, например, связанные с гендером. Мы обходим стороной те метафизические вопросы, которые препятствуют конструктивному диалогу, например, о том, являются ли категории «мужчина» или «женщина» в каком-то смысле реальными. Такие вопросы не имеют смысла в новой логике, потому что многие люди не верят, что «женщина» — это обязательно одна категория с одним истинным значением.
Как инференциалист, при наличии такого утверждения, как «Тэмми — женщина», можно лишь спросить, что можно вывести из этого утверждения: один человек может сделать выводы о биологических характеристиках Тэмми, другой — о её психологическом складе, а третий может рассмотреть совершенно иную сторону её личности.
Инференционализм стал конкретным
Итак, инференциализм — это интригующая концепция, но что значит применять её на практике? В 1980-х годах на лекции в Стокгольме немецкий логик Петер Шрёдер-Хайстер назвал область, основанную на инференциализме, «теоретико-доказательной семантикой».
Короче говоря, теоретико-доказательная семантика — это конкретизированный инференциализм. За последние несколько лет в этой области произошли значительные изменения. Хотя результаты остаются техническими, они коренным образом меняют наше представление о логике и являются важным шагом вперёд в понимании человеческого и машинного мышления и речи.
Большие языковые модели (LLM), например, работают, угадывая следующее слово в предложении. Их догадки основаны только на привычных речевых шаблонах и длительной программе обучения, включающей метод проб и ошибок с вознаграждением. Следовательно, они «галлюцинируют», то есть создают предложения, которые являются логической бессмыслицей.
Используя инференциализм, мы можем дать им некоторое представление о словах, которые они используют. Например, LLM может сгенерировать исторический факт: «Версальский договор был подписан в 1945 году между Германией и Францией после Второй мировой войны», потому что это звучит логично. Но, обладая инференциальным пониманием, он может осознать, что «Версальский договор» был подписан после Первой мировой войны в 1918 году, а не после Второй мировой войны в 1945 году.
Это также может пригодиться, когда дело касается критического мышления и политики. Обладая необходимым пониманием логических следствий, мы можем автоматически выявлять и классифицировать абсурдные аргументы в газетах и на дебатах. Например, политик может заявить: «План моего оппонента ужасен, потому что он уже принимал неверные решения».
Система, обладающая должным пониманием логических следствий, сможет указать на то, что, хотя у оппонента действительно есть история неудачных решений, не было приведено никаких реальных обоснований того, что не так с его текущим планом.
Убрав «истинное» и «ложное» с их пьедесталов, мы открываем путь к пониманию в диалоге. Основываясь на этих открытиях, мы можем утверждать, что аргумент — будь то на жаркой арене политических дебатов, во время оживлённого спора с друзьями или в мире научного дискурса — логически обоснован.