有効数字のルールに関する記事
有効数字とは、測定によって得られる数値のことで、測定機器に表示される確定した有効数字と、最終的な推定値から構成されます。
定規を使って物体の長さを測り(定規の精度限界は 1 mm または 0,1 cm)、結果を有効数字 3 桁で報告するとします。例えば、4,55 cm とします。ノギスを使って物体の長さを測り(ノギスの精度限界は 0,1 mm または 0,01 cm)、結果を有効数字 4 桁で報告するとします。例えば、4,485 cm とします。マイクロメーター スクリュー ゲージを使って測り(マイクロメーター スクリュー ゲージの精度限界は 0,01 mm または 0,001 cm)、結果を有効数字 5 桁で報告するとします。例えば、3,4845 cm とします。これは、測定結果として報告される有効数字の数が、測定の精度を反映していることを示しています。報告できる有効数字が多いほど、測定の精度が高くなります。もちろん、マイクロメーター スクリュー ゲージで物体の長さを測る方が、ノギスや定規で測るよりも精度が高くなります。