ChatGPT от OpenAI, Bard от Google и Sydney от Microsoft — чудеса машинного обучения. Грубо говоря, они берут огромные объемы данных, ищут в них закономерности и за счет этого набираются опыта в подготовке статистически вероятных результатов, напоминая тем самым человеческий язык и мышление. […] Глубочайшим их недостатком является отсутствие самой критической способности, свойственной любому интеллекту: сказать не только, что есть, что было и что будет, — это описание и предсказание, — но и то, чего нет, и что могло бы быть, но быть не может […] Суть машинного обучения — описание и предсказание; он не постулирует никаких причинных механизмов или физических законов. Конечно, любое объяснение в человеческом стиле не обязательно верно; мы ошибаемся. Но это часть того, что значит думать[…] По этой причине предсказания систем, основанных на машинном обучении, всегда будут поверхностными и сомнительными. Поскольку эти программы не могут объяснить правила синтаксиса английского языка, например, они вполне могут неверно предсказать, что фраза «Джон слишком упрям, чтобы с ним разговаривать» означает, что Джон настолько упрям, что не будет разговаривать ни с кем, ни с другим (а не он слишком упрям, чтобы с ним можно было договориться).[…] Как ни странно, некоторые энтузиасты машинного обучения, кажется, гордятся тем, что их творения могут генерировать правильные «научные» предсказания (скажем, о движении физических тел) без использования объяснений (включая, скажем, законы движения Ньютона и всемирного тяготения). Но такого рода предсказания, даже если они успешны, являются лженаукой.
https://centerforpoliticsanalysis.ru/position/read/id/chatgpt-neopravdannye-nadezhdy
