有効数字の問題 一番小さい有効数字？

いま、化学の有効数字を求める問題をしているのですが、ちんぷんかんぷんです。
たしか、有効数字の一番小さいものに合わせて答えを出すという記憶だったのですが、そこで疑問が生じています。
①0.00576÷96＝0.00006
②(5.330-5.03)÷8.0023＝0.037
③6.20×10の−3乗×2.001×10の6乗＝1.24×10の4乗
①なんですが、一番小さい有効数字は96の2ケタではないのですか？
②も一番小さい有効数字は5.03の3ケタではないのですか？
③は一番小さい有効数字は3ケタだと思うのですが、124×10の2乗とかではダメなのですか？

一番小さい有効数字に合わせるということがわかりません。教えてください。

No.3 ベストアンサー 回答者： yhr2 回答日時： 2018/05/01 22:52

有効数字とは、要するに「誤差」の簡易的な処理方法です。

「有効数字２桁」とは
　 0.XX ± 0.005
「有効数字５桁」とは
　 0.XXXXX ± 0.000005
ということです。

例えば、「有効数字２桁」と「有効数字５桁」とのかけ算をすれば、その誤差は
　(0.XX ± 0.005) × (0.XXXXX ± 0.000005) ≒ 0.YYYYY ± 0.005005X
ぐらいになります。
ということで、「有効数字２桁」の方の誤差が結果の誤差の決定要因になります。
なので、計算結果の「誤差を除いた信頼できそうな値」は「２桁」程度になってしまうということです。

上の例は「かけ算」「割り算」の場合です。
これに対して、「足し算」「引き算」の場合には、「桁の数」ではなく、実際の「桁」の比較になります。
つまり
　XXX.XX ± 0.005　←有効数字は小数点以下２桁まで
と
　XXXXX.XXXXX ± 0.000005　←有効数字は小数点以下５桁まで
を足し合わせると
　(XXX.XX ± 0.005) + (XXXXX.XXXXX ± 0.000005) ≒ YYYYYY.YYYYY ± 0.005005
となって、結果は有効数字は小数点以下２桁までということになります。整数部分が何桁あろうが、一番下の有効桁が大きい方で決まります。
　
あくまで「簡易評価」ですので、まあ、そのぐらいなら誤差は元の誤差と同じ程度と考えられるでしょ、という程度の計算手法です。上の計算式もかなり「ドンブリ勘定」な計算です。
正確には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、そんなに「厳密な」「高級な」ものと考える必要はありません。「四捨五入」に毛の生えた程度のものです。

＞①0.00576÷96＝0.00006
＞一番小さい有効数字は96の2ケタではないのですか？

はい、その通りです。計算結果は「２桁」まで信用してよいでしょう。
この場合は、
　576 ÷ 96 = 6
なので、結果がちょうど「１桁」になってしまったので、そうなったということです。
「有効数字２桁」をきちんと示すためには、
　0.00576 ÷ 96 ＝ 0.000060
と記述します。（小数点以下６桁目も「有効である」ことを示すために「0」を付ける）

＞②(5.330-5.03)÷8.0023＝0.037
＞一番小さい有効数字は5.03の3ケタではないのですか？

これは、上の「足し算・引き算」の方で、
　5.330 は 5.330 ± 0.0005 の誤差
　5.03 は 5.03 ± 0.005 の誤差
の誤差ですから、結果は
　(5.330 ± 0.00005) - (5.03 ± 0.005) = 0.327 ± 0.0055
ということなので、真値は
　0.3215 ～ 0.3325
の範囲にあると考えられるので、信用できそうな数値は「 0.33 」とみなすということです。
（「5.03」が小数点以下２桁までしか信用できないので、計算結果の小数点以下２桁までは信用しましょう、ということ）

ということで、カッコ内を計算した後は
　0.33÷8.0023
という計算になるので、①のケースと同じように、「信用できるのは２桁まで」として答を求めています。

＞③6.20×10の−3乗×2.001×10の6乗＝1.24×10の4乗
＞一番小さい有効数字は3ケタだと思うのですが、124×10の2乗とかではダメなのですか？

「124×10の2乗」でもよいです。「0.124 ×10の5乗」でもよいです。
ただ、「124×10の2乗」だと、「1240×10の1乗」とか「12400」と書いたときに有効数字がどこまでか分からなくなるので、標準的な書き方として「最初の１桁だけ整数桁にして、残りを少数にすることが慣例的に行われている、ということです。「A.AAA」の部分を「仮数部」、「×10のB乗」の部分を「指数部」と呼び、「仮数部の小数点位置を固定」にした統一的な表記方法としているのです。
有効数字が３桁なら、1.24×10の2乗
有効数字が４桁なら、1.240×10の2乗
有効数字が５桁なら、1.2400×10の2乗
のように。

この回答へのお礼

回答ありがとうございます！
詳しい説明で、かなりよく理解できました！
ありがとうございます！

お礼日時：2018/05/02 11:00

No.5 回答者： konjii 回答日時： 2018/05/02 09:04

①OK

②OK
③OK
例えば①ですべて桁数を６にして計算してください。
０．００５７６÷９６．？？？？＝０．００００６
０．００５７６＝０．００００６×９６．？？？？
　　　　　　　＝０．００５７（６＋６？/10の整数部)
と６桁目に不確かさ６？/10の整数部が入ってきます。
不確かさを答えに含めてはならないので、①のゆうこう数字は５７の２つになります。

この回答へのお礼

回答ありがとうございます！

お礼日時：2018/05/02 10:59

No.4 回答者： yhr2 回答日時： 2018/05/01 22:55

No.3です。

あらら、②の算数を間違えていました。
下記に訂正します。

＞②(5.330-5.03)÷8.0023＝0.037
＞一番小さい有効数字は5.03の3ケタではないのですか？

これは、上の「足し算・引き算」の方で、
　5.330 は 5.330 ± 0.0005 の誤差
　5.03 は 5.03 ± 0.005 の誤差
の誤差ですから、結果は
　(5.330 ± 0.00005) - (5.03 ± 0.005) = 0.30 ± 0.0055
ということなので、真値は
　0.2945 ～ 0.3055
の範囲にあると考えられるので、信用できそうな数値は「 0.30 」とみなすということです。
（「5.03」が小数点以下２桁までしか信用できないので、計算結果の小数点以下２桁までは信用しましょう、ということ）

ということで、カッコ内を計算した後は
　0.30÷8.0023
という計算になるので、①のケースと同じように、「信用できるのは２桁まで」として答を求めています。

この回答へのお礼

回答ありがとうございます！

お礼日時：2018/05/02 10:59

No.2 回答者： B_one 回答日時： 2018/05/01 22:46

①0.00576÷96＝0.00006

仰るとおり、有効数字は2桁です。
したがって、正解は 6.0×10⁻⁵ です。

②(5.330-5.03)÷8.0023＝0.037

加減算の場合は、小数点以下のケタ数のもっとも少ない数に揃えて計算します。

したがて、5.03の小数点以下2桁にそろえて、5.330-5.03＝0.30

0.30÷8.0023＝0.037

③6.20×10の−3乗×2.001×10の6乗＝1.24×10の4乗

124×10² でも間違いではありませんが、慣例として1.24×10⁴ とするのが一般的ですし、有効桁数が明白です。

ちなみに、100という表記では有効数字が1～3桁、どうとも考えられますが、1.00×10²とすると有効数字が3桁であることが明白となります。

この回答へのお礼

回答ありがとうございます！

お礼日時：2018/05/02 10:58

No.1 回答者： 高校せい 回答日時： 2018/05/01 22:01

1、2は分かりませんが

3はあなたの考えはあっています
つまり12.4×10^3でも良いですし0.124×10^5でも良いんですよ
ただ皆きれいにしたいので
1.24×10^4としてるだけなんですよ

この回答へのお礼

回答ありがとうございます！

お礼日時：2018/05/02 10:57