簡易ルール
(1)加減計算
(A) 各数値に乗じてある10Xのxが異なるなら、まず、10Xを合わせる。そのとき、各数値の有効数字の桁数が変わらないようにする。
(B) 各数値の有効桁の最下の位(くらい)をしらべる。
(C) (B)のうち、最も大きい有効桁の位をさがす。(10の位、1の位、小数点第1の位,,,など)
(D) 計算結果の有効桁の位を、(C)で探した位にまるめる(四捨五入)。
【加減計算による有効数字の決め方の例題①~③】
① 5.302 – 1.2 = (4.102)
(A) ×10Xのx(=0)は同じ
(B) 有効桁の最下位 :小数点3位 小数点1位
(C) 最も大きい有効桁の最下位:小数点1位
(D) 計算結果の有効桁の位を、小数点1位にまるめる
(4.102)
= 4.1 (有効数字2桁)
② 530.2 – 1.23×102
(A) ×10Xのxが違うので合わせる。(×100に合わせた)
530.2 – 123 = (407.2)
(B) 有効桁の最下位 :小数点1位 1の位
(C) 最も大きい有効桁の最下位:1の位
(D) 計算結果の有効桁の位を、1の位にまるめる
(407.2)
= 470 (有効数字3桁)
③ 5.3×10-6 – 1.2856×10-4
(A) ×10Xのxが違うので合わせる。(×10-4に合わせてみる)
0.053×10-4 – 1.2856×10-4
= (-1.2326×10-4)
(B) 有効桁の最下位:小数点3位 小数点4位
(C) 最も大きい有効桁の最下位:小数点3位
(D) 計算結果の有効桁の位を、小数点3位にまるめる
(-1.2326×
10-4)
= -1.233×
10-4 (有効数字
4桁)