-
![]()
問題1-10 電卓を用いて以下を計算せよ.
(1) 2÷7
(2) 直方体の体積を求めるために, Aさんが縦の長さ, Bさんが
横 Cさんが高さを測定した. 彼らはそれぞれ10cm, 1cm,
0.1mm刻みの精度の異なったものさし定規を用いて測定してし
www
10cm
まい, これらの値として4.2m,234cm, 85.35cm を得た. 直方
体の体積はいくつと表示するのがベストだろうか, 数値はどこま
で信用できるだろうか.
0.1mm
1 cm
(2)単位を合わせると 4.2m, 2.34m, 0.8535m となるので, 4.2m×2.34m×0.8535m=
8.388198m² なる値が求まる. しかし, 4.2mという測定値は4.15 4.2 4.25を四捨五
入して得た値なので4.2m±0.05m を意味する。 つまり、この値は±0.05m (± 0.05/4.2
×100=±1.2%) の誤差をもつ。 同様に2.34mは2.34±0.005 (誤差± 0.005/2.34×100=
± 0.21%), 0.8535m は 0.8535 ± 0.00005 (誤差± 0.00005/0.8535 × 100=0.006%) を意味す
る. したがって、この値を用いて計算した8.388198m² なる体積は± 1.2% ± 0.21% ± 0.006%
=±1.4% の誤差をもつ つまり (8.388198 ± 0.117435) m である. それゆえ,この直
方体の体積は8.388 0.117=8.39 ±0.12(8.27~8.51)=8.4m² と表せば十分である.
8.4 の意味は 8.35~8.45 であり、 実際の誤差幅よりも小さい. 8.4 という答ですら多
めの有効数字を示したことになる.つまり,計算結果は4.2, 2.34, 0.8535の三つの測
定値の有効数字の桁数 2, 3, 4桁のうちのもっとも小さい桁数2桁に合わせて示せばよ
いことがわかる (1桁下の3桁目を四捨五入して示すのが常識) 実験データ処理におけ
る有効数字の扱いは, 以上のように測定値の精度に依存する
すなわち, 有効数字は測定値の精度を反映したものである.
1000's GD 01 (0
0800.0
-0.21%
12% 12%
x6/180.18=0.3999(0.4000)
