396 читали · 4 года назад
Почему компьютеры плохо считают
Думаю, все программисты хоть раз, прямо или косвенно, сталкивались с проблемой неточных вычислений, когда вроде числа имеют не так уж много цифр после запятой, операции не слишком сложные, но в результате всё равно получается бред. Или же наоборот, числа в вычислениях настолько большие, что компьютер просто не в состоянии их обработать. В этой статье разберёмся, почему так происходит и можно ли это исправить. Слишком большие числа На картинке сверху, где мы берём корень из числа, которое однозначно не является квадратом результата, явно видно округление...