いま、化学の有効数字を求める問題をしているのですが、ちんぷんかんぷんです。
たしか、有効数字の一番小さいものに合わせて答えを出すという記憶だったのですが、そこで疑問が生じています。
①0.00576÷96=0.00006
②(5.330-5.03)÷8.0023=0.037
③6.20×10の−3乗×2.001×10の6乗=1.24×10の4乗
①なんですが、一番小さい有効数字は96の2ケタではないのですか?
②も一番小さい有効数字は5.03の3ケタではないのですか?
③は一番小さい有効数字は3ケタだと思うのですが、124×10の2乗とかではダメなのですか?
一番小さい有効数字に合わせるということがわかりません。教えてください。
No.4
- 回答日時:
No.3です。
あらら、②の算数を間違えていました。下記に訂正します。
>②(5.330-5.03)÷8.0023=0.037
>一番小さい有効数字は5.03の3ケタではないのですか?
これは、上の「足し算・引き算」の方で、
5.330 は 5.330 ± 0.0005 の誤差
5.03 は 5.03 ± 0.005 の誤差
の誤差ですから、結果は
(5.330 ± 0.00005) - (5.03 ± 0.005) = 0.30 ± 0.0055
ということなので、真値は
0.2945 ~ 0.3055
の範囲にあると考えられるので、信用できそうな数値は「 0.30 」とみなすということです。
(「5.03」が小数点以下2桁までしか信用できないので、計算結果の小数点以下2桁までは信用しましょう、ということ)
ということで、カッコ内を計算した後は
0.30÷8.0023
という計算になるので、①のケースと同じように、「信用できるのは2桁まで」として答を求めています。
No.3ベストアンサー
- 回答日時:
有効数字とは、要するに「誤差」の簡易的な処理方法です。
「有効数字2桁」とは
0.XX ± 0.005
「有効数字5桁」とは
0.XXXXX ± 0.000005
ということです。
例えば、「有効数字2桁」と「有効数字5桁」とのかけ算をすれば、その誤差は
(0.XX ± 0.005) × (0.XXXXX ± 0.000005) ≒ 0.YYYYY ± 0.005005X
ぐらいになります。
ということで、「有効数字2桁」の方の誤差が結果の誤差の決定要因になります。
なので、計算結果の「誤差を除いた信頼できそうな値」は「2桁」程度になってしまうということです。
上の例は「かけ算」「割り算」の場合です。
これに対して、「足し算」「引き算」の場合には、「桁の数」ではなく、実際の「桁」の比較になります。
つまり
XXX.XX ± 0.005 ←有効数字は小数点以下2桁まで
と
XXXXX.XXXXX ± 0.000005 ←有効数字は小数点以下5桁まで
を足し合わせると
(XXX.XX ± 0.005) + (XXXXX.XXXXX ± 0.000005) ≒ YYYYYY.YYYYY ± 0.005005
となって、結果は有効数字は小数点以下2桁までということになります。整数部分が何桁あろうが、一番下の有効桁が大きい方で決まります。
あくまで「簡易評価」ですので、まあ、そのぐらいなら誤差は元の誤差と同じ程度と考えられるでしょ、という程度の計算手法です。上の計算式もかなり「ドンブリ勘定」な計算です。
正確には、きちんと「誤差評価」をしないといけないのですが、これは結構面倒なので、「有効数字」という簡易判定で済ませているのです。ですから、そんなに「厳密な」「高級な」ものと考える必要はありません。「四捨五入」に毛の生えた程度のものです。
>①0.00576÷96=0.00006
>一番小さい有効数字は96の2ケタではないのですか?
はい、その通りです。計算結果は「2桁」まで信用してよいでしょう。
この場合は、
576 ÷ 96 = 6
なので、結果がちょうど「1桁」になってしまったので、そうなったということです。
「有効数字2桁」をきちんと示すためには、
0.00576 ÷ 96 = 0.000060
と記述します。(小数点以下6桁目も「有効である」ことを示すために「0」を付ける)
>②(5.330-5.03)÷8.0023=0.037
>一番小さい有効数字は5.03の3ケタではないのですか?
これは、上の「足し算・引き算」の方で、
5.330 は 5.330 ± 0.0005 の誤差
5.03 は 5.03 ± 0.005 の誤差
の誤差ですから、結果は
(5.330 ± 0.00005) - (5.03 ± 0.005) = 0.327 ± 0.0055
ということなので、真値は
0.3215 ~ 0.3325
の範囲にあると考えられるので、信用できそうな数値は「 0.33 」とみなすということです。
(「5.03」が小数点以下2桁までしか信用できないので、計算結果の小数点以下2桁までは信用しましょう、ということ)
ということで、カッコ内を計算した後は
0.33÷8.0023
という計算になるので、①のケースと同じように、「信用できるのは2桁まで」として答を求めています。
>③6.20×10の−3乗×2.001×10の6乗=1.24×10の4乗
>一番小さい有効数字は3ケタだと思うのですが、124×10の2乗とかではダメなのですか?
「124×10の2乗」でもよいです。「0.124 ×10の5乗」でもよいです。
ただ、「124×10の2乗」だと、「1240×10の1乗」とか「12400」と書いたときに有効数字がどこまでか分からなくなるので、標準的な書き方として「最初の1桁だけ整数桁にして、残りを少数にすることが慣例的に行われている、ということです。「A.AAA」の部分を「仮数部」、「×10のB乗」の部分を「指数部」と呼び、「仮数部の小数点位置を固定」にした統一的な表記方法としているのです。
有効数字が3桁なら、1.24×10の2乗
有効数字が4桁なら、1.240×10の2乗
有効数字が5桁なら、1.2400×10の2乗
のように。
No.2
- 回答日時:
①0.00576÷96=0.00006
仰るとおり、有効数字は2桁です。
したがって、正解は 6.0×10⁻⁵ です。
②(5.330-5.03)÷8.0023=0.037
加減算の場合は、小数点以下のケタ数のもっとも少ない数に揃えて計算します。
したがて、5.03の小数点以下2桁にそろえて、5.330-5.03=0.30
0.30÷8.0023=0.037
③6.20×10の−3乗×2.001×10の6乗=1.24×10の4乗
124×10² でも間違いではありませんが、慣例として1.24×10⁴ とするのが一般的ですし、有効桁数が明白です。
ちなみに、100という表記では有効数字が1~3桁、どうとも考えられますが、1.00×10²とすると有効数字が3桁であることが明白となります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
20000円の3分の2の計算のしかた...
-
kDaからbpへの変換について
-
化学(原子量)の有効数字
-
「六捨七入」すればまだまだ二...
-
硬水を作る
-
中学理科の計算問題についてで...
-
光学純度の問題がわかりません
-
小数第一位までのときは、第二...
-
小数点のわり算がわかりません...
-
0.991を四捨五入して有効数字2...
-
安息香酸とトルエン
-
ガラス器具の許容範囲誤差と有...
-
有効数字についてですが、掛け...
-
(2)は普通に計算すると0.5なん...
-
計算結果の微妙なズレ(大学入試)
-
1.0×10のマイナス14乗÷2.0×10の...
-
蒸気圧の求め方について
-
ROUNDDOWNの計算が、合わないの...
-
アセチル化の実験で、質問があ...
-
計算化学について質問です。
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
20000円の3分の2の計算のしかた...
-
kDaからbpへの変換について
-
計算結果の微妙なズレ(大学入試)
-
小数第一位までのときは、第二...
-
中学理科の計算問題についてで...
-
化学(原子量)の有効数字
-
化学での有効数字について(途...
-
クエン酸水のpH
-
高校化学の計算問題のコツを教...
-
化学です。 ある問題で無理数√3...
-
【高校化学】有効数字の指定が...
-
1.0×10のマイナス14乗÷2.0×10の...
-
ガラス器具の許容範囲誤差と有...
-
困ってます。緩衝液の作り方に...
-
透過率から吸光度の計算が解け...
-
ROUNDDOWNの計算が、合わないの...
-
日本薬局方の数字の丸め方につ...
-
水、10mg/dL標準液、血清の終点...
-
電子天秤のメモリ
-
ネルンストの式にあるlnが何か...
おすすめ情報