
教科書の小数の計算では上記のように考えて計算する事にしていた。でも、実社会(じっしゃかい)ではこのような計算をする事はめったにない。
たとえば「 7.89 (m)」は巻き尺(まきじゃく)で測(はか)った長さで有効数字は3ケタ。「54.321(m)」はレ−ザ−光線を用いた側距儀(そくきょぎ)で測った長さで「有効数字は5ケタある。」という。この時、巻き尺の測定のほうが荒(あら)いのでそのままたし算する事はできないのだ!
(だって、巻尺での測定では1cm以下はよくわからないのに1mm単位まで正確な側距儀のデータを加えても1cm以下の数字は正確なものにはならないからなのだ。)
でも、どうしてもたし算しなければならない時などには、実際(じっさい)にはこのようにしている。

たとえば「 7.89 (m)」 の有効数字は3ケタ。(巻き尺)
「54.321 (m)」 の有効数字は5ケタ。(レ−ザ−測距儀)この時、巻き尺の測定のほうが荒いのでそのままかけ算する事はできないのだ!
(かけ算だから面積などの計算の時だね。巻尺での測定では1cm以下はよくわからないのに1mm単位まで正確な側距儀のデータを掛け合わせても1cm2以下の数字はどうしても正確なものにはならないからなのだ。)
でも、どうしても計算しなければならない時などには、実際(じっさい)にはこのようにしている。
| ほんとの事をいうと..... 巻き尺で測った距離を側距儀(そくきょぎ)でもう一度測りなおして、 「有効数字を5ケタ」にそろえて計算するのが、もっともくわしくていいよね。 |
| ほんとの事をいうと..... 下の例の数字もだいたいの値(あたい)で、ほんとうは、もっともっとくわしく測定されている。 ここで示した値は有効数字でいうとこのようになります。 (例1)地球と月との距離 : 3.81639×108 (m) (6ケタ) (例2)電子1個の重さ : 9.109558×10-31 (kg) (7ケタ) (例3)光の速度 : 2.9979250×108 (m/秒) (8ケタ) |