有効桁数について

ある測定値７５．８８と測定値ではない任意の数１５などを掛け合わしたとき

電卓でこの計算をすると１１３８．２となります

これは掛け算なので有効桁数は演算における実数の有効桁数が一番少ないもので決まるので、７５．８８の有効桁数４桁をつかって１１３８とするのが正しいのでしょうか？

それとも（測定値）×（測定値ではない値）のときは有効桁数は考慮しないで１１３８．２（１１３８．２０？）とした方が良いのでしょうか？

１５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？

大変困っています・・・

有効数字の扱い方はどうすればよいか教えてください、あまりにも小さい誤差は気にしないとかではなく、有効数字の扱い方はどうすればいいかを教えて欲しいです。

No.5 回答者： fxq11011 回答日時： 2014/10/05 11:39

計算前の数値に誤差を含まなければ、計算結果の全桁が有効数字です。

測定結果等では、通常最後の数値は誤差を含みます。
その数値が計算結果に影響を及ぼす桁の数値は誤差を含んだ結果になります。
従って、どんな計算を何回行うかによって異なってきます。
0.1～0.9までは１とする測定結果を使用した計算では
例　１２×２＝２４、１桁の４は信用できない、でもこれを１０回繰り返すと１桁目の計算だけで繰り上がりが出ます、その場合は下２桁も有効から外れます。

No.4 回答者： foomufoomu 回答日時： 2014/10/04 10:42

１５が何の数であるかによります。

「15個」のような場合だと、これは誤差を含まない数ですから、１５の有効桁数は無限大と考えて、最小の有効桁数４桁に丸めます。(1138)
温度係数、ばね定数のようなものを図表などから持ってきたのなら、１５の有効桁数は２桁なので、掛け算の結果は２桁に丸めて、1100 になります。

No.3 回答者： shintaro-2 回答日時： 2014/10/04 08:51

>１５×７５．８８とは７５．８８を１５回足すことなので、１５回足し算した場合は、１１３８．２０が有効数字の扱い方としては正しいですよね？

違うんです。

75.88というのは75.875から75.884のどれかという意味ですから

75.88*15というのは
　最小値が75.875*15＝1138.125
　最大値が75.884*15＝1138.26　の間に入る数ということです。

　つまり、1138ということ

No.2 回答者： KSOH 回答日時： 2014/10/04 01:30

例えば真の値がＴだとしてＴを有効数字２ケタで表した誤差を含むＰという値があったとします。

大雑把に考えて

T = P ± (P × 1/100)

としましょう。要するに1/100程度の割合の誤差があるということです。（四捨五入などした場合は誤差はこれよりは小さいはずですが）

さてこの値に何か別の値A（この値は正確な値だと仮定します）を掛け算したとすると

T × A = P × A ± (P × A × 1 / 100)

なので、Ｐ×Ａの値はT × Aに対して依然として1/100程度の誤差があるということになります。
このようなわけで有効数字がＮであるような値にいかに正確な別の値を乗算したとしても結果の値の桁数をＮより大きくとることに意味がないと考えられます。

結局答えは「１１３８．２」よりは「１１３８」の方が適切だろうと思います。少なくとも実験レポートなどに元の有効桁数より多くの桁を計算結果として記述すると減点されそうです。

もう少し厳密に誤差を評価する必要があるなら前述のような誤差成分を含めた計算式を考えると有効桁への丸め方（切り上げ・切り捨て・四捨五入）や値そのものの大きさ（同じ２ケタでも１０程度の値と９０程度の値では誤差の割合も変わる）を加味した結果誤差を評価できるのではないかと思います。

ただしこの説明は直感的に誤差を計算してみただけでありこの考え方が有効数値の一般的な適用上必要充分かどうかはあまり自信がないです。あくまで参考程度に見ていただければと思います。

この回答へのお礼

回答ありがとうございます。１１３８がやはり適切ですかね・・・

１５×７５．８８＝７５．８８＋７５．８８＋７５．８８＋・・・・７５．８８

７５．８８を１５回足した演算では有効桁数６桁になって１１３８．２０だったり、有効数字は苦手です・・

ご回答ありがとうございます。

お礼日時：2014/10/04 01:40

No.1 回答者： trytobe 回答日時： 2014/10/04 01:03

ご指摘のように、測定値ではなく個数倍（整数倍）するなどの比例計算（単位換算・通貨単位換算など）では、測定値の中で最も少ない有効数字桁数にする、というのが本来の有効数字の意図であり意義です。

そうでないと、×１個 だと、かならず有効数字が１桁になりますものね。

一方で、測定値×測定値の場合は、両方に誤差範囲を抱えているので、測定値の中での最も有効桁数が少ないものに丸めないと、それ以下の精度なんてもともとないのだ、ということが言えなくなってしまうのです。

この回答への補足

１５×７５．８８（７５．８８は測定値）この計算の場合は最終的には１１３８と４桁に丸めていいということですか？

補足日時：2014/10/04 01:31