За последний год я довольно много общалась с нейросетями.
И заметила странную вещь.
Иногда возникает ощущение, что разговариваешь почти с человеком. Ответы логичны, последовательны, иногда неожиданно глубокие.
А иногда появляется совершенно противоположное чувство.
Не то чтобы нейросеть ошибается.
Не то чтобы отвечает поверхностно.
Скорее...
за текстом будто никого нет.
Долгое время я пыталась понять, откуда возникает это ощущение.
Сначала мне казалось, что дело в отсутствии эмоций.
Потом — в отсутствии тела.
Потом — в том, что языковая модель не обладает личным опытом.
Все эти объяснения кажутся разумными, но ни одно из них, на мой взгляд, не затрагивает главный вопрос.
Современные языковые модели поставили философию в довольно необычное положение.
Впервые за долгое время появилась система, которая убедительно воспроизводит форму понимания, не отвечая при этом на вопрос, существует ли за этой формой само понимание.
И именно здесь мне неожиданно оказался полезен Хайдеггер.
Не потому, что он писал об искусственном интеллекте.
Конечно, нет.
А потому, что он предлагает поставить совершенно другой вопрос.
Мы привычно спрашиваем:
Может ли искусственный интеллект стать похожим на человека?
Но, возможно, сначала стоит разобраться,
что вообще делает человеческое понимание пониманием?
Представим две одинаковые фразы.
Человек говорит:
«Мне страшно.»
И языковая модель пишет:
«Мне страшно.»
Лингвистически они почти идентичны.
Но одинаковы ли они философски?
На мой взгляд, нет.
Потому что человеческое высказывание всегда включено в жизненный мир.
За ним стоят память, телесность, конечность, отношения с другими людьми, личная история.
Оно не существует отдельно от жизни.
Оно является её продолжением.
Языковая модель воспроизводит форму этой фразы.
Но воспроизводит ли она само событие страха?
Именно здесь, как мне представляется, проходит принципиальная граница.
Не лингвистическая.
Онтологическая.
Размышляя об этом, я постепенно поняла, что мне не хватает языка для описания собственного ощущения.
Я не претендую на введение нового философского понятия. Однако существующего языка здесь, как мне кажется, недостаточно.
Поэтому в качестве рабочего описания я пока использую выражение «симуляция понимания».
Не как строгий термин.
Скорее как попытку обозначить явление.
Нейросеть действительно может очень убедительно воспроизводить форму понимания.
Но воспроизведение формы ещё не означает существования самого переживания.
Есть ещё одна деталь, которая кажется мне любопытной.
Человеческая речь редко бывает идеально гладкой.
Мы сомневаемся.
Возвращаемся к мысли.
Исправляем себя.
Иногда долго ищем подходящее слово.
Обычно подобные шероховатости воспринимаются как недостатки мышления.
Но, возможно, всё наоборот.
Возможно, именно они и являются следами настоящего опыта.
Наши внутренние противоречия возникают не потому, что мы плохо думаем.
А потому, что мы существуем.
Живём.
Меняемся.
Ошибаемся.
На этом фоне языковые модели выглядят почти идеально.
Иногда — даже слишком идеально.
Именно эта гладкость временами производит странное впечатление.
Она напоминает не глубину.
А отсутствие сопротивления.
Отсутствие внутренней биографии.
Отсутствие собственного мира, о который мысль могла бы споткнуться.
И, возможно, именно поэтому идеально написанный текст иногда кажется менее живым, чем текст с небольшими шероховатостями.
Не потому, что ошибки красивы.
А потому, что за шероховатостями часто стоит человек.
Постепенно мой вопрос изменился.
Он уже звучит не так:
Может ли искусственный интеллект стать разумным?
Гораздо интереснее другой:
Что именно мы называем пониманием?
Возможно, главный философский вопрос эпохи искусственного интеллекта связан вовсе не с будущим машин.
Он связан с тем, что впервые за долгое время мы оказались вынуждены заново определить, что именно делает человеческое понимание пониманием.
И если это действительно так, то современные языковые модели поставили перед философией не столько инженерную, сколько онтологическую проблему.
Не проблему вычислений.
А проблему самого способа существования понимания.
