0.6 : Rules of Significant Figures

При любом измерении точность измерительного инструмента является важным фактором. Обычная линейка, например, может измерять длину с точностью до миллиметра; Штангенциркуль, с другой стороны, может измерять длину с точностью до 0,01 мм. В результате штангенциркуль является более точным измерительным инструментом, поскольку он может измерять мельчайшие изменения длины. Измерения будут более точными, если измерительный инструмент будет более точным.

Следует подчеркнуть, что когда мы представляем измеренные значения, последняя цифра была каким-то образом вычислена человеком, производящим измерение. Например, человек, измеряющий длину палки с помощью линейки, замечает, что она составляет от 13,2 см до 13,3 см, и поэтому он должен оценить значение последней цифры. Правило значащих цифр заключается в том, что последняя цифра, записанная в измерении, является первой цифрой с некоторой неопределенностью. Начните с первого измеренного значения слева и подсчитайте количество цифр до последней цифры, написанной справа, чтобы определить количество значащих цифр в значении. Значащие цифры представляют собой точность измерительного инструмента, используемого для измерения значения.

Текст взят из Openstax, University Physics Volume 1, Section: 1.6 Significant Figures.