Найти тему
Разумный мир

Нескучная метрология. Расстояние до солнца, толщина волоса, и двойная точность

Оглавление

Дискуссия по поводу учета тепла (на самом деле, не только), части которой была посвящена отдельная статья, и которая немного выплеснулась в комментариях к другим статьям, продолжается. Уже за пределами Дзен и не с тем моим оппонентом, но продолжается. И бывший (ныне занесенный в черные списки) оппонент в ней тоже присутствует, но уже опосредовано. Правда от этого не легче.

Нескучная метрология. Внеплановая. Раз расходомер, два расходомер. Пытаемся измерять количество тепла
Разумный мир25 июня 2022

Но вчера я получил вот такое заявление (дословная ЦИТАТА!):

"При программировании фигурируют одинарная и двойная точность К чему это относится? А это является развязкой суждений по поводу точности измерений ЦП.

При одинарной точности расстояние до солнца измеряется с точностью 10 км, а при двойной - с точностью до человеческого волоса."

Повторяю, это не я придумал и написал, это слова того самого оппонента, которые были переданы мне через другого человека. Когда я немного пришел в себя, понял, что такое нельзя оставлять без внимания. На это обязательно нужно реагировать, причем быстрее.

Что бы читатели понимали уточню, что ЦП, в данном случае, не Центральный Процессор, а Цифровой Прибор. Да, оппонент уверен, что цифровой прибор, невзирая вообще ни на что, обеспечивает гораздо лучшую точность, нежели прибор аналоговый. Впрочем, сравнение аналогового и цифрового мы сегодня делать не будем.

У меня накопилось несколько тем статей "по мотивам комментариев и дискуссий". Поэтому, пользуясь правом автора, я ненадолго прерву основное повествование.

Сегодня мы будем рассматривать самые разные вопросы, не только связанные с метрологией. Поскольку заблуждение оппонента чрезвычайно большое и во многом лежит на стыке разных разделов как науки, так и техники.

Как измерить расстояние?

Не спешите с ответом, каким бы глупым и тривиальным не казался вопрос. Для начала вспомним, что расстояние обычно измеряется между двумя точками. Это просто сделать линейкой на бумаге или рулеткой на местности, если расстояние не слишком большое. А если расстояние большое? Или одна точка недоступна? Или недоступны обе точки? А если непонятно, какие именно точки выбирать? Давайте разбираться.

И начнем мы с выбора точек, между которыми измеряется расстояние. И это вовсе не глупый вопрос! Все знают, что понятие точки широко используется в математике и физике. Математическая точка не имеет размера и формы. Это не окружность или фигура иной формы, это просто точка. Это абстрактное понятие используется тогда, когда нам нужно отметить некоторую точку пространства, но всеми остальными характеристиками можно пренебречь. Понятие материальной точки тоже абстрактное и используется в физике. В отличии от точки математической, материальная точка обладает массой.

В реальном мире точки, не говоря уже о штрихах, имеют и форму и размер. Поэтому при измерении расстояний приходится выбирать "точку в точке". Я уже приводил эту иллюстрацию в статье

Нескучная метрология. Существуют ли действительно аналоговые измерения
Разумный мир13 мая 2022

Но повторю ее здесь еще раз

Какую точку в пределах штриха будем считать искомой, определяющей? Иллюстрация моя
Какую точку в пределах штриха будем считать искомой, определяющей? Иллюстрация моя

Но это еще не самая большая проблема. Представьте, что у нас есть задача измерить расстояние между двумя предметами. Для простоты, между двумя шарами. Что именно будем измерять?

Варианты измерения расстояния между двумя предметами. Иллюстрация моя
Варианты измерения расстояния между двумя предметами. Иллюстрация моя

Это лишь некоторые варианты. Правильным вариантом является первый (левый верхний). Но его бывает трудно применять на практике для предметов сложной формы, так как не всегда просто найти центр предмета. Наиболее часто используемым на практике (точнее, в быту) является второй вариант (правый верхний), когда измеряется расстояние между ближайшими точками на поверхности предметов. Запомним это и двинемся дальше.

Прямые, непосредственные, измерения

Измерение расстояния линейкой или рулеткой является непосредственным измерением. Это самый простой случай с точки зрения метрологии. При непосредственных измерениях мы можем непосредственно измерить физическую величину и считать ее значение с шкалы измерительного прибора. Не прибегая к измерениям других величин или вычислениям.

Точность прямого измерения, в большей степени, определяется точностью измерительно прибора. В нашем случае, линейки или рулетки. Причем не важно, обычный прибор (аналоговый) или цифровой. Не стоит обольщаться малой ценой деления некоторых измерительных приборов. Это имеет отношение (и то не всегда!) к разрешающей способности, но не к точности

Точность и разрешающая способность это не одно и тоже
Разумный мир23 декабря 2021

Косвенные, опосредованные, измерения

Если мы не можем что то измерить непосредственно, приходится прибегать к косвенным измерениям. При косвенных измерениях мы измеряем другие величины, связанные с нужной нам величиной. И на основании измеренных значений делаем выводы об искомом значении нужной нам величины. Как правило, для этого требуется выполнять различные вычисления.

Точность косвенного измерения определяется точностью исходных прямых измерений, точностью математической модели, которая лежит в основе вычисления значения искомой величины, и точностью выполнения собственно вычислений. Давайте запомним это. Это очень важно и нам сегодня еще понадобится.

Кроме того, не будем забывать об основных правилах работы с погрешностями

Нескучная метрология. Работа с погрешностями
Разумный мир25 июля 2022

так как погрешность косвенного измерения не обязательно будет являться только алгебраической или геометрической суммой исходных погрешностей.

Косвенное измерение расстояний. Метод параллакса

В те времена, когда еще не было современной электроники, да и знаний было не столь много, уже умели измерять расстояния до недоступных предметов и размеры недоступных предметов. Этот метод геометрического измерения (точнее - вычисления) расстояний называется методом параллакса. И это метод косвенного измерения. Об этом говорится в статье

Но кратко рассмотрим его и сегодня

Определение расстояния до недоступного объекта методом параллакса. Иллюстрация моя
Определение расстояния до недоступного объекта методом параллакса. Иллюстрация моя

Да, перед нами самый обычный треугольник, который образован двумя прямоугольными треугольниками. И геометры давно умели рассчитывать неизвестные элементы треугольников по известным. В данном случае нам достаточно измерить расстояние между наблюдателями и два угла при вершинах А и В. Остальное можно вычислить.

Не будем погружаться в тригонометрию, это не тема сегодняшней статьи. Но погрешность измерения будет определяться суммарной погрешностью:

  1. Совокупностью погрешностей измерения измерения расстояний и углов. Это прямые измерения.
  2. Погрешностью вычисления (определения по таблицам) значений тригонометрических функций для двух измеренных углов.
  3. Погрешностью промежуточных вычислений и вычислений итогового значения величины.

Косвенное измерение расстояний. Локационный метод

Развитие науки и техники привело к появлению новых методов. Наиболее известные - метод эхолокации и метод радиолокации. Появление лазеров позволило использовать и оптическую, лазерную, локацию. Не смотря на кажущееся различие, суть этих методов одинакова.

Локационный метод измерения расстояний до недоступного объекта. Иллюстрация моя
Локационный метод измерения расстояний до недоступного объекта. Иллюстрация моя

Наблюдатель направляет на объект короткий импульс излучения. Для эхолокации это звук, для радиолокации радиочастотное излучение, для лазерной локации лазерное излучение. Одновременно запускаем секундомер. Часть отправленного нами импульса отражается от объекта и возвращается к нам. Отраженный импульс гораздо слабее отправленного, но мы все таки можем его зафиксировать. Получив отраженный импульс мыв останавливаем секундомер. Кроме того, нужно измерить скорость распространения нашего импульса в той среде, в которой осуществляется локация.

Временной интервал между посылкой импульса и получением отраженного соответствует удвоенному расстоянию между наблюдателем и объектом. Зная время и скорость мы легко находим расстояние, которое преодолел импульс. Остается разделить это расстояние на 2.

Погрешность локационных методов определяется суммарной погрешностью:

  1. Погрешностью измерения временных интервалов. Это прямые измерения. Причем в большинстве случаев требуется использовать электронные средства измерения (не обязательно цифровые), так как временные интервалы малы.
  2. Погрешностью формирования посылаемого импульса передатчиком.
  3. Погрешностью фиксации отраженного импульса приемником.
  4. Погрешностью измерения скорости распространения импульса.
  5. Погрешностью вызываемой колебаниями скорости распространения импульса по пути до объекта и обратно.
  6. Погрешностью выполнения вычислений.

Коротко остановлюсь на пункте 5. Мы знаем, что даже скорость света зависит от среды, в которой он распространяется. Об этом иногда забывают, считая скорость света неизменной и равной скорости света в вакууме. Но это не верно. Эффект преломления на границе раздела сред как раз и является самой наглядной демонстрацией влияния среды на скорость света. Скорость распространения электромагнитной волны (радиоволны) тоже зависит от среды. Аналогично и скорость звука. Более того, влияют и дополнительные факторы, например, для звука это температура и влажность.

Поэтому скорость распространения импульса не остается неизменной. Причем не только при измерении в разное время, но и в пределах одного измерения, если импульс проходит большое расстояние, а условия по пути разные. И это неизбежно вносит дополнительную погрешность.

Измерение расстояний в космосе

Измерение расстояний в космических масштабах гораздо сложнее, чем измерение расстояний на нашей планете. Прежде всего, из-за гораздо больших расстояний. Но имеет значение и то, что Земля окружена атмосферой, которая является своеобразной линзой. Стоит упомянуть и о влиянии массы космических объектов, например, звезд, которые создают гравитационные линзы искажающие пространство. Но давайте останемся в пределах солнечной системы.

Метод параллакса и его проблемы

Метод параллакса применим, но совсем не так просто, как для измерения расстояний на нашей планете. Расстояние до космических объектов очень велико. Поэтому нам требуется гораздо большее расстояние между наблюдателями. И тут возникает сразу несколько проблем:

  1. Нельзя игнорировать кривизну поверхности нашей планеты. Расстояние между наблюдателями, измеренное по поверхности земли, не равно расстоянию между наблюдателями, измеренное по прямой. То есть, одна из сторон треугольника оказывается не прямой линией, а дугой. Причем радиус кривизны поверхности планеты не является константой.
  2. Относительно чего будем измерять углы? Ранее мы измеряли их между направлением на другого наблюдателя и направлением на объект. Но теперь мы не знает направление на другого наблюдателя, так как он очень далеко, возможно, на другом континенте. Между направлением на объект и линией горизонта? Да, так можно. Так определяют положение на море (где нет ориентиров) с помощью секстанта. Но линия горизонта это дуга, а не прямая. Погрешность будет недопустимо большой. Поэтому измеряют угол между направлением на объект и направлением на какую-либо звезду. Звезда настолько далеко, что параллакс будет неприменим. Не смотря на то, что угол восхождения будет разным для разных наблюдателей.
  3. Измерения углов нужно проводить одновременно, иначе будет сказываться угловая скорость вращения планеты. А для этого нужно уметь точно измерять время. И это долго было проблемой сказывающейся на точности определения положения кораблей на море.
Использование метода параллакса для измерения расстояния до космических объектов. Иллюстрация моя
Использование метода параллакса для измерения расстояния до космических объектов. Иллюстрация моя

Здесь все гораздо сложнее, чем ранее. Но это по прежнему чистая тригонометрия.

Погрешность определения расстояния до космических объектов гораздо больше, так как больше влияющих факторов. Тем не менее, метод рабочий, если речь не идет о слишком далеко находящихся объектах. И если не требуется измерять расстояние днем, когда звезд не видно. Так что с измерением расстояния до солнца возникают проблемы.

Локационные методы и их проблемы

Использование локационных методов сталкивается со сложностью из-за больших расстояний. Отраженный сигнал чрезвычайно слаб. А эхолокация неприменима в принципе.

Тем не менее, метод рабочий и обеспечивает довольно высокую точность. Этот метод используется, например, для измерения расстояния до Луны. На поверхности Луны находятся уголковые отражатели, которые были доставлены туда Апполонами и нашими луноходами. Используя лазер и несколько отражателей, координаты которых известны, можно достаточно точно определить расстояние. На сегодняшний день точность измерения расстояния составляет единицы сантиметров.

Но важно понимать, что это усредненной расстояние. И основной вклад в обеспечение столь малой (по сравнению с расстоянием) погрешности вносит не точность расчетов, а точность измерения времени (десятки пикосекунд). Но и точность вычислений важна.

Можно измерять расстояние и измеряя время прохождения сигнала от спутника до приемной антенны. Но это требует очень точного измерения времени. Примером является GPS или наш Глонас.

К сожалению, с Солнцем опять возникают проблемы. Его яркость слишком велика и мы просто не сможем выделить отраженный луч лазера. Кроме того, Солнце является слишком сильным источником электромагнитных помех, поэтому с радиолокацией возникают проблемы. Но метод использовался и результат был получен. Но погрешность весьма большая, в абсолютных цифрах - сотни километров. Но относительная погрешность порядка 0.1%.

Другие методы определения расстояния до Солнца

Астрономы люди очень изобретательные. Это необходимо, так как они не имеют возможности измерять расстояния и размеры непосредственно. Мы не будем рассматривать эти методы, они достаточно сложны. Мы просто погрязнем в астрономии и математике. Но нельзя нек упомянуть эти методы. В частности, метод транзита.

Для этого нам нужно наблюдать, как планета (Венера хорошо подходит) проходит на фоне солнечного диска. После этого за дело берутся математики мы получаем результат даже не столько измерения, сколько вычисления. Не думаю, что стоит в данной статье погружаться в тонкости вычислений. Я просто дам ссылку

Проблема в том, что Венера проходит по солнечному диску очень редко. И мы можем измерить (вычислить!) лишь для какой то одной точки орбиты.

В чем сложность измерения расстояния до Солнца и почему нам это важно

Но есть еще несколько проблем, которые мешают нам точно измерять расстояние до Солнца. Я уже упомянул про орбиту, по которой наша планета движется вокруг Солнца. Эта орбита далека от окружности, а Солнце не находится в центре орбиты. Поэтому расстояние от поверхности Земли до поверхности Солнца постоянно изменяется. Более того, на орбиту локальное возмущающее влияние оказывают и другие планеты Солнечной системы.

Но это еще не все. Что мы должны считать поверхностью Солнца? Границы его ядра? Границы фотосферы? Границы хромосферы? Да, по сравнению с расстоянием до Земли даже размеры Солнца могут показаться малыми. Но размеры Солнца велики и мы не можем их игнорировать если хотим уменьшить погрешность измерения расстояния.

Поэтому мы можем говорить об измерении расстояния до Солнца. О некотором "мгновенном значении" расстояния. Но погрешность этого измерения велика. Поэтому мы никак не можем говорить об измерении "с точностью до человеческого волоса"! Вне зависимости от мифической "одинарной и двойной точности". Но об этом разговор будет чуть далее.

Почему нам важно расстояние между Землей и Солнцем? Дело в том, что это расстояние принято за "астрономическую единицу", которая используется для измерения других расстояний в космосе. Когда неприменима единица измерения "световой год". А раз так, нам нужно как то зафиксировать расстояние до Солнца не смотря на его постоянную изменчивость.

За астрономическую единицу принято расстояние 149 597 870 700 метров. Но не стоит считать это расстояние в точности равным текущему расстоянию от Земли до Солнца! Это некоторое усредненное значение расстояния. Как будто Земля движется равномерно по неизменной орбите являющейся окружностью.

Обратите внимание на то, что две последние цифры нули. Это только подчеркивает, что погрешность даже такой зафиксированной величины далеко от нуля.

Что же такое "двойная точность"?

На канале есть не мало статей посвященных архитектуре ЭВМ. И есть цикл статей о машинном представлении чисел в ЭВМ. В частности, нам сегодня будут интересны две статьи этого цикла

О представлении чисел в ЭВМ. Когда нельзя считать точно. Рациональные числа
Разумный мир28 апреля 2022
О представлении чисел в ЭВМ. Когда запятая плавает
Разумный мир3 мая 2022

Более подробно о форматах чисел я рассказывал в статье

На самом деле, ЭВМ может выполнять вычисления с любым количеством двоичным разрядов. Просто это не всегда можно сделать с помощью одной команды. Большое количество разрядов числа не только требует больше места для размещения данных. Это может увеличить и время вычисления. Поэтому разрядность выбирают исходя из условий задачи. И это было очень важным в те времена, когда ЭВМ были не слишком быстрыми, а объем памяти был сильно ограничен.

Это и привело к появлению в языках программирования высокого уровня (ЯВУ) переменных разной разрядности. Для целых чисел это были длинные и короткие типы. Для чисел с плавающей запятой (вещественные числа) типы одинарной и двойной точности. Причем иногда была и возможность в явном виде указать и разрядность, и систему счисления для переменной. Не говоря уже о том, что существовали и библиотеки программ, которые позволяли работать с числами почти любой разрядности.

Не все ЯВУ позволяли программисту уточнять подробности реализации типа числа. Так в оригинальном стандарте Algol60 такой возможности не было. Были только целые числа (integer) и вещественные числа (real). Однако, конкретные реализации языка для различных машин могли поддерживать расширения стандарта, которые позволяют задавать разрядность. В Fortran IV были целые числа и вещественные, но дополнительно вещественные числа могли быть заданы в формате двойной точности (DOUBLE PRECISION). Наиболее развитыми средствами подробного описания численных переменных обладал язык PL/I.

И нельзя не упомянуть язык C, в котором целые числа могут быть короткими (short), обычными (int), длинными (long), длинными длинными (lobg long). Вещественные числа могут быть одинарной точности (float) и двойной (double).

Повторю, это стандартные средства языка. Речь не идет о расширениях конкретных реализаций или дополнительных библиотеках.

Невозможно перечислить все языки программирования и все вариации типов данных. В некоторых языках разрядность базовых типов (целый, вещественный) закреплялась стандартом. При этом разрядность зачастую равнялась естественной разрядности машины. Именно это и позволяло выполнять одну арифметическую операцию одной машинной командой. В некоторых языках просто указывалось соотношение разрядности между типами. Так в С просто говорится, что разрядность long не меньше разрядности int.

Если не рассматривать крайние случаи, то в те годы разрядность "большой" машины чаще всего составляла 32 бита, а разрядность "малой" 16 бит. В это количество разрядов помещалось все целое число и все вещественное. Для вещественных чисел это были и мантисса, и порядок.

Сегодня большинство машин являются 32 битными или 64 битными. Таким образом, самое обычное целое число, буду на примере С рассматривать, может занимать и 8 бит, и 16, и 32, и 64. Более того, конкретные реализации могут быть расширены и 24 битовыми числами, и числами большей разрядности. Вещественные числа могут быть 32 или 64 битными. А внутренние форматы процессоров плавающей запятой могут оперировать и с 80 битными.

Поэтому нельзя говорить об абстрактных числах одинарной и двойной точности. Нужно уточнять, о какой именно машине, о каком именно языке программирования, о какой именно реализации языка, идет речь. Без этого нельзя ничего сказать точно. Точно так же, как термины легковой и грузовой автомобиль не позволяют говорить о чем либо конкретном, кроме основного функционального назначения.

Но все таки, давайте посмотрим, на что влияет количество разрядов числа. Будем рассматривать только целые и вещественные числа и их естественные машинные представления.

Целые числа

Целое число может занимать как всего один байт, так и несколько. Количество разрядов в явном виде определяет диапазон представимых чисел. И, в общем и целом, ничего более. Нельзя сказать, что число разрядов оказывает влияние на точность. Конечно, если речь не идет о том, что наши целые числа будут представлять собой количество десятков/сотен/тысяч. То есть, если мы не введем, умышленно и осознанно, более грубое семантическое значения хранящегося числа.

Вещественные числа

Увеличение разрядности вещественного числа, прежде всего, влияет на количество цифр, которое может содержать мантисса. Влияет точно так же, как на целые числа. По той причине, что мантисса является целым числом, по своей сути, с виртуальной зафиксированной десятичной точкой. А вот положение мантиссы внутри вещественного числа определяется порядком, который хранится отдельно.

Таким образом, машинное представление вещественных чисел

  • 1234000000
  • 12.34
  • 0.00000001234

отличается только хранимым порядком. Хранимое значение мантиссы этих чисел абсолютно одинаково. Но если посмотреть на наш пример, то сам собой напрашивается вывод (ошибочный!), что точность этих чисел разная. Почему же этот вывод ошибочный?

Все очень просто. Точность вещественного числа определяется возможностью представления всех цифр нормализованной мантиссы в ее хранимом представлении. А для всех трех наших чисел мантисса одинакова. И если она помещается в выделенном под хранение мантиссы количестве разрядов, то и числа (причем все) будут представлены точно. Разумеется, и порядок должен помещаться в отведенные для него разряды.

Но проблемы могут возникнуть в самом, казалось бы, безобидном случае. Давайте попробуем разделить 1 на 6... И мы получим бесконечную десятичную дробь, которая не сможет поместиться ни в одном количестве разрядов мантиссы. И машинное представления такого числа всегда будет неточным. Причем это без учета того, что мы используем десятичную систему счисления, а машинное представление двоичную.

Увеличение разрядности вещественного числа позволяет записывать большее количество цифр мантиссы, поскольку это самое важное. Дополнительно, может увеличиваться и количество цифр порядка. Это повышает точность представления числа, но вещественное число, в общем случае, не может быть представлено точно.

Влияние разрядности чисел на точность вычислений

Итак, мы выяснили, что термины одинарная и двойная точность абстрактны и требуют конкретизации, если речь идет о погрешностях вычислений. Выяснили, на что влияет разрядность машинного представления целых и вещественных чисел. Но как это все влияет на вычисления?

Если мы не может точно представить числе в машинном виде, мы не можем и получить точный результат арифметической операции. Таким образом, вычисления могут являться, и являются, источником дополнительной погрешности. Чем больше разрядность мантиссы, тем меньше погрешность. Но погрешность никогда не будет нулевой.

Но это далеко не все. Дело в том, что погрешность вычислений с плавающей точкой имеет свойство накапливаться в цепочке вычислений. То есть, чем больше арифметических операций мы выполняем с переменной, тем больше будет накопленная погрешность. Повышение разрядности в данном случае тоже помогает.

При этом, известны методы снижения погрешности и без повышения разрядности. Например, мы можем начать выполнять операции с самых малых чисел в наборе, а большими заканчивать. Может поменять порядок операций, в полном соответствии с правилами математики.

Так что не только в повышении разрядности следует искать спасение. Но собственно вычисления это лишь часть целого. Я уже упоминал, что влияет и точность представления, например, тригонометрических функций. Мы можем вычислять синус, можем пользоваться табличными значениями, можем вычислять промежуточные значения, которых нет в таблице... Какое количество разрядов мы сможем при этом получить? Нет смысла от использования 128 разрядных чисел, если вычисление математических функций (тригометрия, корни, логарифмы, и прочее) ограничено 32 разрядами.

Таким образом, увеличение разрядности чисел может снизить погрешности вычислений. Но не может сделать их нулевыми. И нужно понимать, что итоговая погрешность зависит от многих факторов, а не только от разрядности используемых нами переменных.

Все? Нет, далеко не все!

Общая погрешность косвенных измерений

Я уже не раз говорил, что итоговая погрешность измерения определяется суммарной погрешностью всех элементов в цепочке. Включая погрешность математической модели и погрешность метода. А для косвенных измерений и погрешность вычислений. То есть, погрешность вычислений это лишь одна из составляющих погрешности.

Что такое погрешность математической модели? Например, формула для вычисления некоторой функции может быть выведена исходя из линейной зависимости, тогда как зависимость не совсем линейная. Другим часто встречающимся упрощением является отбрасывание величин "много меньших". Например, для кремниевого транзистора обратный ток коллектор-база много меньше тока коллектора в активном режиме. Значит, мы может не учитывать влияние обратного тока. Но это повышает погрешность вычислений. Тогда как проблема не в собственно вычислениях, а в математической модели, которую вычисления реализуют.

Обратите внимание, это ВАЖНО, что входными данными для вычислений при косвенных измерениях являются данные измерений прямых. И эти данные уже имеют свои погрешности, которые определяются и погрешностями датчиков (средств измерения) и погрешностями методов. Если погрешность входных данных (результатов прямых измерений) выше погрешности вычислений, не имеет смысла повышать разрядность переменных в ЭВМ. Это не даст ощутимого результата.

Точно так же, не будет ощутимого результата от повышения разрядности переменных, если погрешность математической модели превышает погрешность вычислений. Не будет ощутимого результата от повышения разрядности, если какие либо промежуточные величины имеют ограниченную разрядность. Например, если тригонометрические функции заданы таблично и имеют невысокую точность.

Заключение

Таким образом, шокировавшая меня фраза (приведена в начале статьи цитатой) имеет сразу массу ошибок.

  • Двойная точность не является панацеей ни с какой точки зрения, если говорит о точности измерений цифровыми приборами. Более того, вклад в итоговую погрешность именно ограниченной разрядности представления чисел зачастую меньше, чем вклад остальных источников погрешностей..
  • Неверно говорить о двойной или одинарной точности. Нужно говорить о количестве разрядов и формате представления чисел. В цикле о машинном представлении чисел я описывал представление рациональных чисел. Такое представление может обеспечить гораздо более высокую точность вычислений. При том, что в нем используются только целые числа в качестве внутреннего формата.
  • Сам факт того, что прибор является цифровым, ни коим образом не гарантирует, что его точность выше, чем у прибора аналогового.
  • Расстояние до Солнца не измеряется с точность "человеческого волоса" использованием "двойной точности". По той причине, что входные данные уже содержат значительные погрешности. И эти погрешности вносят основной вклад в погрешность итоговую.
  • Погрешность измерения расстояния до Солнца превышает 10 км даже при использовании "двойной точности".
  • Метрология это не свод разрозненных правил. Это точная наука, которая взаимосвязана с многими другими науками. И волюнтаризм здесь недопустим.

Ну и вечное - нужно понимать, а не только знать некие формулы и определения, которые применяются зачастую не к месту.

До новых встреч!

Наука
7 млн интересуются