В 2023 году Ноам Хомский с коллегами написали для газеты New York Times колонку с красивым заголовком «The False Promise of ChatGPT». В этом тексте они призывают поумерить оптимизм в отношении даров, которые нам сулят все эти успехи больших языковых моделей. Более того, их внедрение, по мнению авторов колонки, представляет серьезную угрозу не только для науки, но и этики как таковой — оттого, что они несут в себе «фундаментально ущербные» понятия о том, что суть язык и знание. Эту фундаментальную ущербность Хомский и сотоварищи усматривают в том, как языковые агенты осваивают и «понимают» языки. Например, говорят ученые, нейронные сети устроены так, что могут освоить так называемый невозможный язык. То есть научиться говорить на языке, с которым у людей заведомо будут проблемы. Недавно эту мысль проверили экспериментально и показали, что ChatGPT-2 вообще-то тоже испытывает трудности с освоением невозможных языков. Отсюда возникает вопрос: уязвляет ли эта демонстрация каким-то образом п