測定値は、その書き方の中に自らの不確かさを抱えています。ミリ目盛りの定規が与えるのは12.4cmであって12.4000cmではありません。余分なゼロを書けば、定規が持ちもしなかった精度を主張することになります。有効数字は、その主張を正直に保つための取り決めです。どの桁が実際に測られ、どの桁が後から走った計算にすぎないかを示します。

3ステップの使い方

1. 1 数値を入力すると、有効数字が何桁あるかが分かります。
2. 2 丸めたいなら、桁数を指定します。
3. 3 計算する場合は、下に二つの測定値を入力してください。正しい規則が自動で適用されます。

どのゼロが数に入り、どのゼロが入らないか

難しさはすべてゼロにあります。先頭のゼロは決して数えません。0.0042の有効数字は2桁です。そのゼロは小数点の位置を示しているだけだからです。数字のあいだのゼロは必ず数えます。1002は4桁です。小数点より後の末尾のゼロは数えます。1.200は4桁で、千分の一まで測れたと述べています。1200のような整数の末尾のゼロは本当にあいまいで、科学的記数法が存在する理由のひとつは、その議論に決着をつけることです。

二つの規則が異なる理由

かけ算は相対誤差を引き伸ばすので、答えは最も弱い相対精度を受け継ぎます。相対精度は有効数字で数えます。たし算は絶対誤差を引き伸ばすので、答えは最も弱い絶対精度を受け継ぎます。絶対精度は小数点以下の桁数で数えます。二つの規則が違う理由はこれだけで、2.0 × 3.000 が 6.0 なのに 2.0 + 3.000 が 5.0 になるのもそのためです。同じ入力、違う問い、違う弱点。