ИИ не умеет считать. Казалось бы такая умная система должна была бы включать в себя, как минимум, калькулятор. Даже айфон в заметках автоматически может произвести вычисления или посчитать стоимость валюты по актуальному курсу. А ИИ что глупее?
На фото выше примеры глюков ИИ. К их чести замечу, что простые математические примеры они решали верно. А ChatGPT стал лучше считать вторники. Но все равно они уверенно терпят неудачи с простыми задачами подсчета. Интересно, что они в итоге оказались более творческими (пишут стихи, создают картины), чем точными.
На самом деле ИИ не глупее айфона, просто он совсем по-другому работает. ИИ не вычисляет, он предугадывает.
Подобно тому, как мы достраиваем в своем воображении неполную картину, ИИ генерирует наиболее вероятный ответ, основываясь на паттернах в своих данных. Это не математика – это вероятностная поэзия чисел.
И в каком-то смысле неумение ИИ считать - не столько ошибка, сколько зеркало. Он показывает нам нашу предвзятость, нашу уязвимость к ложным данным, нашу любовь к стройным, но ошибочным конструкциям.
Наше сознание тоже не просто извлекает данные, а реконструирует их. Мы думаем, что вспоминаем, но на самом деле — каждый раз пересобираем воспоминание заново, заполняя пробелы догадками. Мы уверены, что видим мир объективно, но на деле просто предсказываем, что должно быть в этом мире, и дорисовываем реальность.
И, как метко подметил Claude, вероятно это и есть истинное мышление: не механический расчет, а сочетание опыта и интуиции.