No.1ベストアンサー
- 回答日時:
有効数字を計算するときは、
(a) 計算途中は、かならず一桁余分に使う
(b) 有効桁への数字の丸めは最後に一度だけ行う。
これを守りましょう。
結果はかわらなくても(1)~(3)はこれに抵触しています。
計算の過程を覚えることが主目的ですので、上の(a)(b)はまもりましょう。
(5)は難しいところですが、
>(5)303*33=9.999*10^3
では有効数字2桁で右辺の上から2つ目の9の桁(100の位)に誤差があると考えられますから、私ならこの100の位までを有効と取ります。したがって、最終的には3桁で
(5)303*33=9.999*10^3=1.00×10^4
このへんは有効数字の計算法の限界みたいなところで、
本当なら標準偏差がほしいところです。
No.2
- 回答日時:
(4)(5)は並べて考えてみる必要があります。
(5)は#1様の回答のようにしていいだろうと思います。
1.00の最期の0は怪しいですがまるっきり怪しいわけではありません。±0.01ぐらいを見込んでいていいのではないでしょうか。最後の桁が1動くぐらいの可能性は含んでおくということです。(4)で9.5としたことに比べたらずれはかなり小さいです。
(4)の9.5は±0.3ぐらいの可能性があります。
(4)で9.5を認めるのであれば(5)で1.00とするというのも認められるのです。
具体的に幅を見積もるのであれば電卓で次のような計算をすればいいです。
303.4×33。4>303×33>302.5×32.5
10133.・・>303×33>9831.・・
ついでに
5.34×1.84>5.3×1.8>5.25×1.75
9.82・・>5.3×1.8>9.18・・
(5)で1.00×10^4とした場合よりも(4)で9.5とした場合の方が最後の桁の数字の信頼性が低いです。
有効数字の計算では全く信用できない数字であるというのでなければ採用することにしています。最後の桁が1とか2変動する可能性があったとしても捨ててしまうのはもったいないという立場です。でもその数字を次の計算に使うとなると注意が必要になります。計算を繰り返すと誤差は拡大して行きます。
「~桁×~桁=~桁」という式に頼った計算を機械的にやっているだけでは不足だということになります。
10と99はどちらも有効数字は2桁だと言いますが数字の精度という点では大きな違いがあります。
10は2桁の中で一番精度の低い数字です。99は2桁の中で一番精度の高い数字です。これは最後の桁の数字がその一つ下の桁を四捨五入で丸めて得られたものだということを考えれば直ぐに出てくることです。2つの数字をかけ合わせて得られる数字の精度は材料となった2つの数字の精度よりも低いです。
電卓を使わなくてもある程度の判断はできそうです。
(4)3.3×1.8=9.5
(5)303×33=1.00×10^4
どちらも元の数字の中の精度の低い方の数字よりも精度が高くなっています。
こういうことは無いはずです。
従って
「(4)9.5の5はかなり動くだろう、(5)1.00の最後の0も動くだろう」
と予想することができます。
(4)1.8の精度が9.5の精度に変わると精度が5倍ほど上がっていることになります。
(5)3.3の精度が1.00になると3倍ほどの上昇です。
従って
「9.5の場合の動き幅の方が1.00の場合の動き幅に比べて大きいだろう」
という予想をすることができます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 生物学 【生命科学】ヒトが1日に消費するATP量?(精度を変えて再計算) 3 2022/10/07 18:48
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
- 高校 高校化学有効数字計算 4 2023/02/26 09:09
- Excel(エクセル) エクセル 関数について質問です。 2 2022/10/03 11:14
- 物理学 「NHKの時報の音は、振動数が440Hzです。この音の波長を求めましょう。ただし、音の伝わる速度を3 6 2023/03/02 18:24
- ドライブ・ストレージ 「3は「1+1+1」です。」とコンピュータが認識する用語って何ですか? 2 2022/07/17 02:33
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
測度の精度についての問題
-
電圧計などの「級」について
-
相対性理論とカーナビ
-
熱電対に機器を並列接続した際...
-
水1ccは1グラム??
-
フィルタ回路(ローパスフィルタ)
-
天秤の精度が1mgのとき、 予想...
-
相対誤差について
-
誤差が0.1度C以内の安い温度計
-
電子レンジに磁石をくっつけて...
-
色の読み方。
-
今日iPhoneの近くに磁石を置い...
-
川の水についての質問です
-
数学1の問題です 不等式3x+1...
-
白以外の絵の具で白を作れるのか?
-
赤と青と黄色の絵の具を混ぜて...
-
磁石で赤いのはN極?S極?
-
a.u.という単位について
-
重ねるハザードマップの地形分...
-
アニリンは最初の状態では無色...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報