
有効数字2桁での回答を求められています
分子 4.052*0.239^2*10^5
分母 1-0.239^2
電卓では0.245… → 0.25
実際の試験中には小数点以下5桁6桁の途中計算を繰り返すのは厳しいので、
自分は積と商においては有効数字+1桁の数を途中計算に用いています。
それに基づくと
分子は
0.239^2=0.057121 → 0.0571
4.052 → 4.05
0.0571*4.05=0.231255 → 0.231
分母は
0.239^2=0.057121 → 0.0571
1-0.0571=0.9429(これは差なので3桁とはしませんが、0.943としても結果は同じです)
最後に 分子/分母
0.231/0.9429=0.2449… → 0.24
筆算でも0.25に至るには全ての途中計算を4桁(有効数字+2)で処理しなければなりません。
有効数字3桁での回答を求められる場合には5桁で計算することとなりますが現実には難しそうです。
問題集の回答では0.25となっていましたが、このケースでは0.24でも許容されると考えるべきでしょうか。
ちなみに神戸薬科大の問題のようです。
No.2ベストアンサー
- 回答日時:
一般的に計算方法の違いに伴う誤差は許容範囲です。
0.24は許容です。そもそも、0.25が大学が設定した正解かどうかもわかりません。ただ単に、その「解答例」を作った人が電卓で計算したというだけの話でしょう。
まあ、一般的に、大学入試では化学の問題で計算力を調べようとしているわけではないので、数値が複雑にならないように数値が設定されていることが多いと思いますけどね。
確かに立式するまでの考え方が重要ならば、有効数字にこだわりすぎるのは本質から逸れてしまいますね。
許容の範囲だと考えて今まで通り計算することにしました。
ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
0.5時間などの時間計算の方法
-
1000分の3は何%ですか
-
1/2÷1/2はなぜ1になるのか?
-
1000分の10の計算の仕方を教え...
-
1÷0の答えを教えて下さい
-
閏年の金利
-
【Excel】合成確立計算で分子を...
-
複写機を購入した購入と同時に6...
-
■分数計算■1/2+1/3-1/4-1/5-1/6...
-
血の濃さ
-
標準偏差同士の計算はどうやる...
-
分子の括弧
-
比率の計算
-
100÷5000が0.02になるワケを教...
-
a^3/(a-b)(a-c) +b^3/(b-c)(b-a...
-
ゼロ乗の考え方について
-
分数の分母が0
-
大学入試での分母の有理化
-
平成22年度電験3種の理論問題 ...
-
種々の数列
おすすめ情報