Topic outline
有効数字を含む加減算(足し算、割り算)
簡易ルール
(1)加減計算
(A) 各数値に乗じてある10Xのxが異なるなら、まず、10Xを合わせる。そのとき、各数値の有効数字の桁数が変わらないようにする。
(B) 各数値の有効桁の最下の位(くらい)をしらべる。
(C) (B)のうち、最も大きい有効桁の位をさがす。(10の位、1の位、小数点第1の位,,,など)
(D) 計算結果の有効桁の位を、(C)で探した位にまるめる(四捨五入)。
【加減計算による有効数字の決め方の例題①~③】
① 5.302 – 1.2 = (4.102)
(A) ×10Xのx(=0)は同じ
(B) 有効桁の最下位 :小数点3位 小数点1位
(C) 最も大きい有効桁の最下位:小数点1位
(D) 計算結果の有効桁の位を、小数点1位にまるめる
(4.102) = 4.1 (有効数字2桁)
② 530.2 – 1.23×102
(A) ×10Xのxが違うので合わせる。(×100に合わせた)
530.2 – 123 = (407.2)
(B) 有効桁の最下位 :小数点1位 1の位
(C) 最も大きい有効桁の最下位:1の位
(D) 計算結果の有効桁の位を、1の位にまるめる
(407.2) = 470 (有効数字3桁)
③ 5.3×10-6 – 1.2856×10-4
(A) ×10Xのxが違うので合わせる。(×10-4に合わせてみる)
0.053×10-4 – 1.2856×10-4 = (-1.2326×10-4)
(B) 有効桁の最下位:小数点3位 小数点4位
(C) 最も大きい有効桁の最下位:小数点3位
(D) 計算結果の有効桁の位を、小数点3位にまるめる
(-1.2326×10-4) = -1.233×10-4 (有効数字4桁)2) 乗除算(かけ算、わり算)
(A) 各数値の有効数字の桁数を調べる
(B) (A)のうち、有効数字の桁数の最も少ないものをさがす
(C) 計算結果の有効数字の桁数を(B)でさがしたものに合わせる
【乗除計算による有効数字の決め方の例題①~②】
① 0.123 × 12.34 ÷1000 = (0.00151782)
(A) 有効数字の桁数:(3桁) (4桁) (4桁)
(B) 最も少ない桁数:3桁
(C) (0.00151782) = 0.00152(3桁) = 1.52×10-3 (3桁)
② 0.123 × 12.34 ÷1.0×103 = (0.00151782)
(A) 有効数字の桁数:(3桁) (4桁) (2桁)
(B) 最も少ない桁数:2桁
(C) (0.00151782) = 0.0015(2桁) = 1.5×10-3 (2桁)
(3) 加減・乗除の計算
まず、加減算のところを計算して、その数値の有効数字の桁数を決める。それから乗除算を計算する。
補足:数値の丸め方(四捨五入と五捨五入)
上の例では、有効数字の桁数を合わせる最後のところで、四捨五入して数値を丸めました。四捨五入だと、1~4は切り捨て(切り捨て幅4)、5~9は切り上げ(切り上げ幅5)るので、切り上げの確率が高くなります。膨大なデータを処理するときは、この確率の違いを補正しなくてはならないときもあります。そんなときは五捨五入なる考え方もあります。本テキストでは触れませんが、興味ある方は調べてください。
(なお、パソコンの表計算ソフトでは、数値を有効数字の桁数を小さく見せるとき、自動的に四捨五入している。)