119 читали · 2 года назад
Ограничения чисел с плавающей точкой
Ранее я рассказывал о неприятностях, связанных с округлением чисел. Этих неприятностей можно избежать, если использовать вещественные числа, то есть числа с плавающей точкой. Однако и у таких чисел есть особенности, которые ограничивают их применение. Об этих особенностях сегодня и расскажу. Итак, по сравнению с целыми числами, числа с плавающей точкой имеют следующие недостатки… Перечисление В перечислениях нельзя использовать вещественные числа. Потому что любое перечисление - это какой-то упорядоченный набор данных...
359 читали · 3 года назад
Почему компьютеры плохо считают
Думаю, все программисты хоть раз, прямо или косвенно, сталкивались с проблемой неточных вычислений, когда вроде числа имеют не так уж много цифр после запятой, операции не слишком сложные, но в результате всё равно получается бред. Или же наоборот, числа в вычислениях настолько большие, что компьютер просто не в состоянии их обработать. В этой статье разберёмся, почему так происходит и можно ли это исправить. Слишком большие числа На картинке сверху, где мы берём корень из числа, которое однозначно не является квадратом результата, явно видно округление...