175 читали · 2 года назад
Ошибки округления в программировании
Я уже рассказывал про возможные неожиданности при сравнении вещественных чисел. Правда, не на этой площадке. Но ссылка есть, можете почитать. Сегодня продолжу тему и расскажу про округление. Хотя в той же статье по ссылке я об этом говорил, здесь немного дополню. Современные процессоры достаточно умны и часто правильно обрабатывают ошибки округления. Если, например, вы разделите 10 на 3, а потом результат снова умножите на 3, то на современных компьютерах, скорее всего, вы получите 10. То есть вот такой код: float x; float z; x = 10...
1281 читали · 4 года назад
Округление в Excel, что важно знать, чтобы не допустить ошибку?
В Ваших расчетах слишком много формул и операций? В итоге Вы получаете число с большим количеством знаков после запятой? Вы хотите видеть только целый результат вычислений? Или наоборот Вам нужно четко определить границы цифр после запятой, чтобы не допустить ошибок? А может число, которое Вы видите слишком большое и Вам сложно его быстро прочитать? В этой статье рассмотрим как применять в Excel возможности округления и какой способ подходит Вам для текущей задачи Вы определите сами после прочтения этой статьи...