章节大纲

    • 簡易ルール


      (1)加減計算

      (A) 各数値に乗じてある10Xのxが異なるなら、まず、10Xを合わせる。そのとき、各数値の有効数字の桁数が変わらないようにする。

      (B) 各数値の有効桁の最下の位(くらい)をしらべる。

      (C) (B)のうち、最も大きい有効桁の位をさがす。(10の位、1の位、小数点第1の位,,,など)

      (D) 計算結果の有効桁の位を、(C)で探した位にまるめる(四捨五入)。

       

      【加減計算による有効数字の決め方の例題①~③】

       

      ①                          5.302  –       1.2        = (4.102)

      (A) ×10Xのx(=0)は同じ

      (B) 有効桁の最下位  :小数点3位     小数点1位

      (C) 最も大きい有効桁の最下位:小数点1位

      (D) 計算結果の有効桁の位を、小数点1位にまるめる

                        (4.102) = 4.1       (有効数字2桁)

       

      ②                   530.2      – 1.23×102

      (A) ×10Xのxが違うので合わせる。(×100に合わせた)

                               530.2    –    123    = (407.2)

      (B) 有効桁の最下位  :小数点1位     1の位

      (C) 最も大きい有効桁の最下位:1の位

      (D) 計算結果の有効桁の位を、1の位にまるめる

                        (407.2) = 470       (有効数字3桁)

        

      ③                   5.3×10-6      – 1.2856×10-4 

      (A) ×10Xのxが違うので合わせる。(×10-4に合わせてみる)

                         0.053×10-4  – 1.2856×10-4  = (-1.2326×10-4)

      (B) 有効桁の最下位:小数点3位    小数点4位

      (C) 最も大きい有効桁の最下位:小数点3位

      (D) 計算結果の有効桁の位を、小数点3位にまるめる

                           (-1.2326×10-4) = -1.233×10-4       (有効数字4桁)



    • 2) 乗除算(かけ算、わり算)


      (A) 各数値の有効数字の桁数を調べる

      (B) (A)のうち、有効数字の桁数の最も少ないものをさがす

      (C) 計算結果の有効数字の桁数を(B)でさがしたものに合わせる

       

      【乗除計算による有効数字の決め方の例題①~②】

       

      ①                   0.123 × 12.34  ÷1000 = (0.00151782)

      (A) 有効数字の桁数:(3桁) (4桁)    (4桁)

      (B) 最も少ない桁数:3桁

      (C)  (0.00151782) = 0.00152(3桁) = 1.52×10-3     (3桁)

       

       

      ②                   0.123 × 12.34  ÷1.0×103 = (0.00151782)

      (A) 有効数字の桁数:(3桁) (4桁)    (2桁)

      (B) 最も少ない桁数:2桁

      (C)  (0.00151782) = 0.0015(2桁) = 1.5×10-3  (2桁)

       


      (3) 加減・乗除の計算

       まず、加減算のところを計算して、その数値の有効数字の桁数を決める。それから乗除算を計算する。



    • 補足:数値の丸め方(四捨五入と五捨五入)

       上の例では、有効数字の桁数を合わせる最後のところで、四捨五入して数値を丸めました。四捨五入だと、1~4は切り捨て(切り捨て幅4)、5~9は切り上げ(切り上げ幅5)るので、切り上げの確率が高くなります。膨大なデータを処理するときは、この確率の違いを補正しなくてはならないときもあります。そんなときは五捨五入なる考え方もあります。本テキストでは触れませんが、興味ある方は調べてください。

       (なお、パソコンの表計算ソフトでは、数値を有効数字の桁数を小さく見せるとき、自動的に四捨五入している。)