A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
「有効数字」とは、計算処理などによって「端数」が出た場合に、どこまでの桁を表示するか、どこまでの桁を「信用できる」と判断するかという数値の処理方法です。
通常は、問題の条件で与えられた数値と同じ桁数までは「信用できる」として、その1つ下の桁の数値を「四捨五入」して結果の数値とします。
与えられた数値の桁がまちまちの場合には、最も少ない桁数に合わせます。
お示しの例でいえば
・2.04÷(6.0×10の23乗)→ 信用できるのは「2桁」まで。結果は3桁目を四捨五入して「2桁」で表示。
・(8.31×10の3乗)÷(2.24×10の-二乗))→ 信用できるのは「3桁」まで。結果は4桁目を四捨五入して「3桁」で表示。
と機械的に判断すればよいと思います。
そもそも「有効数字」とは、本当はきちんと「誤差」を表示しないといけないところを、簡易的に「表示する桁数」として処理する方法です。
あくまで「誤差表記」の代用であって、それほど厳密なものではありません。
高校生までが使う「簡易的なやり方」と考えればよいもので、数学的にも科学的にも、たいして意味のあるものではありません。
(なので、高校でもあまりきっちりとは教えないようですね)
大学以上の「学術的」な計算では、「有効数字」などという「簡易処理」ではなく、きちんと「誤差表示」をしないといけません。
たとえば
(2.04 ± 0.005) ÷ [(6.0 ± 0.05) * 10^23]
[(8.31 ± 0.005) × 10^3] ÷ [(2.24 ± 0.005) × 10^(-2)]
など。
↓ 参考サイト
https://eman-physics.net/math/figures.html
No.2
- 回答日時:
2.04÷(6.0×10^23)
=2.04÷6.0÷10^23
10^23は分母にあるので、÷10^23になっているので、÷を×になおすと、×10^(-23)になります。
=2.04×1/6×10^(-23) 2.04×1/6=2.06÷6=0.34
=0.34×10^(-23)
指数を使った表示は1の位から書きます。数字を10倍、指数を10分の1にします。
=(0.34×10)×(10^(-23)×10^(-1))
=3.4×10^(-24)
(8.31×10^3)÷(2.24×10^(-2))
=8.31×10^3÷2.24÷10^(-2)
=8.31×10^3×1/2.24×10^2
=8.31×1/2.24×10^5 8.31×1/2.24=8.31÷2.24=3.709
=3.71×10^5
No.1
- 回答日時:
計算後数字を丸めるとき、有効数字の一番少ない数に合わせます。
上の例では6.0の2桁です。6.0の3桁目に曖昧さがあるからです。3桁目は四捨五入します。2.04÷(6.0×10の23乗)=3.4×10の22乗
(8.31×10の3乗)÷(2.24×10の-二乗)は有効数字3桁です。4桁目は四捨五入します。
=3.71x10の5乗
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 計算機科学 誤差計算について (10±1)+[(6.0±0.2)×(3.0±0.2)] (10±1)/[(2.0 6 2023/04/26 18:48
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 高校時代電離平衡の計算に関しての質問です。 問題集で、 酢酸は水溶液中で一部が電離し、次のような電離 2 2022/10/22 18:59
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 計算機科学 99の問題なんですが、(1)を計算すると125になって有効数字三桁なので1.25×10^2mlかなと 3 2022/08/25 11:52
- 化学 化学の溶解度積Kspの計算に関しての質問です。MgF2の溶解度積を求める問題で Ksp=[Mg^2+ 1 2022/08/13 18:07
- 化学 分子量の答え方 3 2023/02/12 10:36
- 大学受験 化学の問題で、計算結果が例えば33.2のとき、有効数字を2桁で答える場合、答えは「33」ですか?それ 2 2022/11/15 20:00
- 物理学 「NHKの時報の音は、振動数が440Hzです。この音の波長を求めましょう。ただし、音の伝わる速度を3 6 2023/03/02 18:24
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
循環小数を分数にする方法
-
2進数の割り算が分かりません...
-
3÷7のあまりは「3」ですか?
-
数値とアルファベットに分ける...
-
数学の階乗はどんな時に使うの...
-
数字3桁の組み合わせの何通り...
-
関数電卓の表示方法を変更したい
-
0.120は有効数字何桁ですか? ...
-
60進法と10進法
-
10進数で123を2進数で表わすと...
-
Excelでの有効数字の合わせ方に...
-
7で割ると3余り、9で割ると4余...
-
私は大きくなって今でも数字の...
-
0は何桁の整数ですか?
-
EXCELで10万未満切捨ての...
-
100!
-
0以下の数字は何桁?
-
【場合の数】 2桁の自然数で、2...
-
です。 0.008020 の有効数字は...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
60進法と10進法
-
3÷7のあまりは「3」ですか?
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
EXCELで10万未満切捨ての...
-
数学の階乗はどんな時に使うの...
-
エクセル関数で桁数指定し数値...
-
です。 0.008020 の有効数字は...
-
関数電卓の表示方法を変更したい
-
3分の1とは何パーセントでしょ...
-
0以下の数字は何桁?
-
10進法の数を60進法の数に...
-
エクセルのsumifの検索値
-
【場合の数】 2桁の自然数で、2...
-
0.120は有効数字何桁ですか? ...
-
10進数で123を2進数で表わすと...
おすすめ情報