有効数字

有効数字3桁で数値を表すときには、a19bc09の数字,mを整数だとして、

という書き方で表す。
例えば、数値
xが、と表されている場合、であること(末尾桁のさらに1つ下の桁を四捨五入してになった)が確認されている、という意味になる。
2個の数値xyを演算して有効数字3桁の数値を得たい場合は、xyのどちらも有効数字が3桁以上である必要がある(xyともに有効数字3桁にしておけばよい)

円周率は、
3.1415926535897932384626433832795028......であることが知られています。電子計算機を用いて計算すれば、時間はかかりますが、何万桁でも正確な値を計算することができます。
これに対して、地球の赤道における半径は、ほぼ、
12756 [km]であることが知られていますが、何万桁も正確な値を知ることはできません。そもそも、火山の爆発、地震などの地殻変動や、太陽、月による潮汐現象で微妙に変化してしまいます。
また、地球の半径の測定を行っても、必ず
1.2756×[km]という値が得られるわけではありません。測定の方法によっては、大体の数値しかわからないということもあります。

数学で
‘1'と言えば正確に1.000000......ですが、物理では‘1'と言っても正確に1.000000......だと言うことはできません。
測定された地球の半径が「
13千キロメートルだ」という言い方では、12800キロメートルという観測データを四捨五入したのか、12998キロメートルという観測データを四捨五入したのか、わからないのです。ですが、これでは、理論を立てる上で支障が出るので、観測値がどれくらい正確なのか、ということを確認できるようにしておく必要があります。

測定方法をきちんと評価した上で、
12812キロメートル、12752キロメートル、12788キロメートル、というような観測データが得られたとします。このとき、数値の上から4桁目を四捨五入すれば、128百キロメートルであると断定できます。千の位と百の位を明示することによって、測定値R1.28×[km]と表します。
このとき、
Rは、1.275×[km]R[km]1.285×[km]という値である、という意味になります。

高精度の数値と低精度の数値を演算する場合、結果の数値の精度は低精度の数値で決まってしまいます。有効数字
2桁の数値と有効数字4桁の数値をかけると有効数字2桁の数値となります(不幸な場合には、もっと精度が悪くなる可能性もあります)
有効数字
4桁の結果を得るためには、有効数字4桁の数値同士で演算する必要があります。
但し、正数と負数の和、正数と正数の差を求める場合に注意が必要な場合があります。
有効数字
4桁の数値5.379[m]と有効数字4桁の数値5.315[m]の差をとると、0.064[m]となり、有効数字が2桁のデータしか得られません。これを桁落ちと言います。

大学の入試問題で、出題者が有効数字を気にしている場合とあまり気にしていない場合とがあります。
「質量
mの物体と2mの物体」、という場合の2という数字は、正確に2.00000......を表していると見て計算しても大丈夫ですが、「物体Aと物体Bの質量の比を2.00とする」、という場合には、わざわざ小数点以下第1位、第2位が0だと指定して、2物体の質量比kが、1.995k<2.005と断っていると見るべきで、有効数字に注意して計算を行う必要があります。


TOPに戻る   CFV21 メイン・ページ   考察のぺージ

(C)2005, 2006,2007 (有)りるらるNewton e-Learning
inserted by FC2 system