有効数字

高校物理において, 誤差に対する扱いの一端を感じさせてくれるのが有効数字の考え方である.

有効数字有効とは, 実験で得られた測定数値をほぼ信用できる部分信用ができない部分とに分けたうえで, ほぼ信用できる部分のみを扱って議論を進めるという約束事を意味している.

この約束事は加減と乗除のそれぞれについてルールがあり, ここでは有効数字の計算ルールについて紹介する.

皆がこのような約束事を共有しておくことで, 数字の扱いに誤解が生じにくい状況を作っておくことが有効数字の考え方の重要なところでもある.



有効数字の考え方

物理では, ある物理量を測定し, その測定量を他の測定量と組合せて別の量を計算することが頻繁に行われる.

例えば,

  • 二つの物体の質量をそれぞれ測定したあと, 二つの物体をくっつけた場合の質量を計算で求める.

  • 直方体の縦・横・高さの三つを測定したあとで, 縦×横×高さで体積を計算で求める

などが頻繁にあるだろう.

そこで, 最小の目盛り間隔の1/10程度までを有効として読み取り, それよりも一つ小さな位を四捨五入したと考えることが一般的である. ただし, 読み取った値のうち, どの桁までを有効とするのかは, アナログやデジタル, 測定器の目盛り間隔など, 実際に測定に用いる器具によって異なってくるので, その都度適した値まで読み取る必要があることを頭に留めておいてほしい.[1]例えば, デジタルの測定器は数値の最小単位までしか読み取れないし, 極端に目盛り間隔の狭い定規ならば, … Continue reading

続いて, 有効数字の桁数(有効桁数)というものを紹介する.

ある直方体の縦・横・高さを別々に測定した結果, 縦 \( 12.3 \ \mathrm{cm} \) , 横 \( 4.5\ \mathrm{cm} \) , 高さ \( 6\ \mathrm{cm} \) と報告してきたとしよう.

このとき, 測定値の有効な数字の数を有効数字の桁数といい, 縦( \( 12.3 \ \mathrm{cm} \) )の有効数字の桁数は3桁, 縦( \( 4.5 \ \mathrm{cm} \) )の有効数字の桁数は2桁, 高さ( \( 6 \ \mathrm{cm} \) )の有効数字の桁数は1桁であるという.

また, 有効数字の桁数が3桁の \( 12.3 \ \mathrm{cm} \) は約 \( 12.25\ \mathrm{cm} \) から約 \( 12.35\ \mathrm{cm} \) 程度の4桁の数字から算出されたであろう値で末位は信頼出来ない数字であったということを意味する[2]ここで約とつけたのは, 自分で操作せずに与えられた数字の場合, … Continue reading.

位取りのゼロ

測定値が \( 0.030\ \mathrm{cm} \) の有効数字の桁数について考える場合, \( 0.0 \) \( 3 \) という意味のある数字を表すまでの桁合わせに必要というだけの意味しかなく, 位取りのゼロという.

有効数字の計算ルールでは位取りのゼロは有効数字の桁数には含めない.

したがって, 意味のある数字 \( 3 \) より低い位の数, \( 30 \) のみが有効なのであって, 測定値 \( 0.030\ \mathrm{cm} \) の有効数字の桁数は2桁ということになる.

有効数字の明示的記法(科学的記法)

有効数字の桁数がわかっている有効数字は, 次に示すような形で統一して書くことにしよう.

ルールは, 以下のとおりである.

  1. 数は一の位から書き始める.

  2. 有効数字の数と同じ桁数を持つ小数を書く.

  3. \( 10 \) のベキ乗を用いて数の大きさを調整する.

このようなルールに則った記法を科学的記法という.

基本的には上で述べたルールで有効数字を明示できるのだが, 10の指数部が \( \pm 1 \) 程度の数の場合にはわざわざ上で述べた形に統一しないことも多い. 例えば, \( 12 = 1.2 \times 10^{1} \) や \( 0.2 = 2 \times 10^{-1} \) といった具合である. この辺りは個人の裁量によるところであるが, 本稿では科学的記法の基本に沿った書き方をすることにする.

以下に科学的記法を用いて数値を書き表す具体例を示しておく. \[ \begin{aligned} & 1234 \quad \to \ 1.234 \times 10^{3} \\ & 0.02 \quad \to \ 2 \times 10^{-2} \\ & 0.340 \quad \to \ 3.40 \times 10^{-1} \\ & 0.080 \ \mathrm{kg} = 80 \ \mathrm{g} \quad \to \ 8.0 \times 10 \ \mathrm{g} \end{aligned} \]


科学的記法を用いることの恩恵について少しだけ触れておこう.

例えば,「測定値が \( 300 \) でした」と報告されたときは注意してほしい. というのも, この \( 300 \) は科学的記法に則って書かれていないため, 測定値の実際の有効桁数が何桁なのかは測定者以外にはよくわからなくなってしまうのである.

そこで, \( 300 \) という数字の有効桁数が2桁だとわかっているならば科学的記法を用いて \[ 300 \ \to \ 3.0 \times 10^{2} \notag \] として人に報告することで上記のような誤解は生じにくくなる.

測定値同士の四則演算

測定値同士の和差計算

測定値同士の和差計算では, 有効数字の末位の最も高い位のものに合わせる.

測定値 \( A = 1.23 \ \mathrm{cm} \) と測定値 \( B =4.5 \ \mathrm{cm} \) が得られたとする. \( A \) は有効数字の末位が小数第二位, \( B \) は有効数字の末位が小数第一位であるので, 有効数字の末位が大きいのは \( B \) である. したがって計算結果の有効数字は有効数字の末位が小数第一位になるよう, 小数第二位を四捨五入する.

\[ 1.23 + 4.5 = 5.73 \to 5.7 \notag \]

以下に幾つかの具体例を示しておく.

\[ \begin{aligned} & 23.2 + 1 = 24.2 \quad \to \ 24 \\ & 0.444 – 0.05 = 0.394 \quad \to \ 0.39 \\ & 8.6 + 3.4 = 12.0 \\ & 3.01 – 3.00 = 0.01 \quad \to \ 1 \times 10^{-2}\end{aligned} \]

特に, 具体例の4つめの式のように有効数字の桁数が3桁の二つの数から有効数字1桁の数が生じる例は桁落ちと言われ, コンピュータの計算などでも問題になる注意すべき例である. また, 3つめの式のように有効数字の桁数が2桁の二つの数から有効数字3桁の数が生じることもある. このように, 有効数字の和差計算では有効数字の桁数が増減する可能性がある.

測定値同士の乗除計算

測定値同士の乗除計算では, 計算結果を有効数字の桁数の最も少ないものに合わせる.

測定値 \( A = 1.1 \ \mathrm{cm} \) と測定値 \( B =3.45 \ \mathrm{cm} \) が得られたとする. \( A \) は有効数字の桁数が2桁, \( B \) は有効数字の桁数が3桁であるので, 有効数字の桁数が少ないのは \( A \) である. したがって計算結果の数字 \( 1.1 \times 3.45 = 3.795 \) は有効数字の桁数が2桁にあわせるように上から3桁目の数9を四捨五入して \( 3.8 \) とする.

以下に幾つかの具体例を示しておく. \[ \begin{aligned} & 1 \div 3.0 = 0.33\cdots \quad \to \ 0.3 = 3 \times 10^{-1} \\ & 1.5 \times 300 = 450 \quad \to \ 4.5 \times 10^{2}\\\end{aligned} \]

測定値同士の計算方法

測定値の中で信頼できる数字の桁数を有効数字の桁数という. 測定値同士の和差計算 :
計算結果を有効数字の末位の最も高い位のものに合わせる. 測定値同士の乗除計算 :
計算結果を有効数字の桁数の最も少ないものに合わせる.

脚注

脚注
1 例えば, デジタルの測定器は数値の最小単位までしか読み取れないし, 極端に目盛り間隔の狭い定規ならば, 最小の目盛り間隔の値自身までを有効とするなどが考えられる.
2 ここでとつけたのは, 自分で操作せずに与えられた数字の場合, その有効桁数以上の箇所にどのような処理を施した結果得られた数値であるのかは本来わからないからである.

皆が同じ規則にのっとってのみ数値を処理してくれるのであればよいのであろうが, ここで紹介している有効数字の考え方は高校物理の範囲内で広く使われている約束事を紹介しているのである. 世の中にはこれとは少し違う(けれどもそれなりに妥当な)有効数字の処理方法もあることは知っておいても良いであろう.

また, 信頼できる程度という曖昧な表現を使っているのでやはりはっきりと \( 12.3 \mathrm{cm} \) は \( 12.25 \sim 12.35 \mathrm{cm} \) から算出された値と言い切るわけにもいかないからである.