有効数字と測定値の扱い方
カワウソ先生測定値の最後の1桁は目分量。だから計算のあとも、いちばん粗い測定値より細かい桁は書かないよ。
30秒でつかむ
- 測定値のうち、目盛りなどから実際に読み取れた信頼できる桁を有効数字という。12.3cmなら有効数字3桁で、最後の3は目分量で読んだ桁。
- 足し算・引き算では、末位(いちばん細かい位)がもっとも粗い測定値にそろえて答えを求める。
- 掛け算・割り算では、有効数字の桁数がもっとも少ない測定値にそろえて、答えの桁数を決める。
詳しく
測定値の有効数字と計算の規則
測定して得られた値を測定値という。測定値のうち、ものさしや目盛りから実際に読み取れた、信頼できる桁を有効数字という。例えば、1cm目盛りのものさしで長さを測り12.3cmと読んだとき、12cmは目盛りそのもの、最後の0.3は小数第1位にあたり、目盛りの間を目分量で読んだ桁で、合わせて有効数字3桁という。
測定値を足し算・引き算するときは、末位(いちばん細かい位)がもっとも粗い測定値にそろえて答えを求める。例えば、小数第1位までの8.2cmと、小数第2位までの1.34cmを足すと8.2+1.34=9.54になるが、粗い方の8.2cmに合わせて小数第1位までとし、答えは9.5cmだ。
測定値を掛け算・割り算するときは、有効数字の桁数がもっとも少ない測定値に合わせて、答えの桁数をそろえる。0でない数字が初めて現れてから最後の数字までが有効数字の桁数で、5.0のように小数点のあとにつく0も有効数字として扱う。
例題:密度の計算
例題1:質量15.0g(有効数字3桁)、体積6.20cm³(有効数字3桁)の物体の密度(新しいタブで開きます)を求める。15.0÷6.20=2.41935…となるが、どちらも有効数字3桁なので、答えも3桁にそろえて2.42g/cm³とする。
例題2:ストップウォッチで測った3回の時間が、12.4秒・12.6秒・12.5秒だった。足すと12.4+12.6+12.5=37.5秒。3で割ると37.5÷3=12.5秒で、もとの測定値と同じ小数第1位までなので、そのまま12.5秒とする。
例題3:50mLのメスシリンダー(1mL目盛り)で体積を測り、「47mL」と読んだ。小数点が無くても、意味のある数字だけを数えるので、この測定値の有効数字は2桁(4と7)である。
なぜ桁をそろえるのか
測定には必ず誤差が伴う。粗い測定値ほど誤差が大きいので、細かい測定値と足し算・掛け算をしても、答えの精度は粗い方の測定値を超えない。だから、答えの桁数は精度の低い方にそろえる。
12.3cmという測定値は、本当は12.25cm〜12.35cmのどこかにある値を表している。この測定値を使って計算した答えに、測定していない桁まで書いてしまうと、実際には無かった精度があるように見えてしまう。
500gのように末尾に0が続く数は、有効数字が1桁なのか3桁なのか、書き方だけでは分からないことがある。だから、どこまでが測定値の桁かを、文章やグラフの中ではっきり示す書き方をする。
確認問題
確認問題(解答用紙)
スマホやタブレットで読み取ると、この問題をその場で解けます。
https://manazoo.com/science/significant-figures-and-measurement/?from=print#quiz
測定値0.0250kgの有効数字は何桁か。
答え:____________
正解:3
先頭の0(0.0)は有効数字に数えない。残る2・5・0の3つを数えるので、有効数字は3桁。測定値8.2cm(小数第1位まで)と1.34cm(小数第2位まで)を足す。有効数字の規則に従うと、答えは何cmか。
答え:____________
正解:9.5
8.2+1.34=9.54。加減算は末位を粗い方の8.2cmの小数第1位にそろえるので、9.5cmとする。次の測定値のうち、有効数字がもっとも多いものはどれか。
- ◯ 0.3cm
- ◯ 3.00cm
- ◯ 3.0cm
- ◯ 30cm
正解:3.00cm
3.00cmは3桁(3・0・0)。3.0cmは2桁、0.3cmは1桁で、30cmは末尾の0の扱いがはっきりしないため3桁より多いとは言えない。もっとも多いのは3.00cm。質量8.4g(有効数字2桁)、体積3.5cm³(有効数字2桁)の物体の密度は、有効数字の規則に従うと何g/cm³か。
答え:____________
正解:2.4
8.4÷3.5=2.4。どちらも有効数字2桁なので、答えも2桁の2.4g/cm³(新しいタブで開きます)とする。
単元のポイント
- 有効数字 測定で実際に読み取れた桁(最後の1桁は目分量)
- 加減算の規則 末位をもっとも粗い測定値にそろえる
- 乗除算の規則 桁数をもっとも少ない測定値にそろえる
- 0の数え方 5.0のように小数点のあとの0は有効数字に数える