
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
「有効数字」とは、計算処理などによって「端数」が出た場合に、どこまでの桁を表示するか、どこまでの桁を「信用できる」と判断するかという数値の処理方法です。
通常は、問題の条件で与えられた数値と同じ桁数までは「信用できる」として、その1つ下の桁の数値を「四捨五入」して結果の数値とします。
与えられた数値の桁がまちまちの場合には、最も少ない桁数に合わせます。
お示しの例でいえば
・2.04÷(6.0×10の23乗)→ 信用できるのは「2桁」まで。結果は3桁目を四捨五入して「2桁」で表示。
・(8.31×10の3乗)÷(2.24×10の-二乗))→ 信用できるのは「3桁」まで。結果は4桁目を四捨五入して「3桁」で表示。
と機械的に判断すればよいと思います。
そもそも「有効数字」とは、本当はきちんと「誤差」を表示しないといけないところを、簡易的に「表示する桁数」として処理する方法です。
あくまで「誤差表記」の代用であって、それほど厳密なものではありません。
高校生までが使う「簡易的なやり方」と考えればよいもので、数学的にも科学的にも、たいして意味のあるものではありません。
(なので、高校でもあまりきっちりとは教えないようですね)
大学以上の「学術的」な計算では、「有効数字」などという「簡易処理」ではなく、きちんと「誤差表示」をしないといけません。
たとえば
(2.04 ± 0.005) ÷ [(6.0 ± 0.05) * 10^23]
[(8.31 ± 0.005) × 10^3] ÷ [(2.24 ± 0.005) × 10^(-2)]
など。
↓ 参考サイト
https://eman-physics.net/math/figures.html
No.2
- 回答日時:
2.04÷(6.0×10^23)
=2.04÷6.0÷10^23
10^23は分母にあるので、÷10^23になっているので、÷を×になおすと、×10^(-23)になります。
=2.04×1/6×10^(-23) 2.04×1/6=2.06÷6=0.34
=0.34×10^(-23)
指数を使った表示は1の位から書きます。数字を10倍、指数を10分の1にします。
=(0.34×10)×(10^(-23)×10^(-1))
=3.4×10^(-24)
(8.31×10^3)÷(2.24×10^(-2))
=8.31×10^3÷2.24÷10^(-2)
=8.31×10^3×1/2.24×10^2
=8.31×1/2.24×10^5 8.31×1/2.24=8.31÷2.24=3.709
=3.71×10^5
No.1
- 回答日時:
計算後数字を丸めるとき、有効数字の一番少ない数に合わせます。
上の例では6.0の2桁です。6.0の3桁目に曖昧さがあるからです。3桁目は四捨五入します。2.04÷(6.0×10の23乗)=3.4×10の22乗
(8.31×10の3乗)÷(2.24×10の-二乗)は有効数字3桁です。4桁目は四捨五入します。
=3.71x10の5乗
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
7で始まる電話番号?
-
数学の階乗はどんな時に使うの...
-
NUMBER(N,M) としたときの、格...
-
数字3桁の組み合わせの何通り...
-
2進数「0110-0011」の計算方法を...
-
4個の数字1,2,3,4を重複を許し...
-
筆算(引き算)の教え方は?
-
excelで引き算の計算をしたら、...
-
数値とアルファベットに分ける...
-
3の倍数と3の付く数字でアホに...
-
【場合の数】 2桁の自然数で、2...
-
5個の数字0、1、2、3、4を使っ...
-
物理の有効数字の質問
-
無限大-無限大の計算の仕方
-
2進数の割り算が分かりません...
-
0は何桁の整数ですか?
-
基数変換について
-
おつりの簡単な計算方法?(引...
-
エクセル関数で桁数指定し数値...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
7で始まる電話番号?
-
数学の階乗はどんな時に使うの...
-
3÷7のあまりは「3」ですか?
-
数値とアルファベットに分ける...
-
2進数の割り算が分かりません...
-
√2の値はなぜ1.414…になるんで...
-
EXCELで10万未満切捨ての...
-
大雪で小屋根の軒桁が外れた
-
NUMBER(N,M) としたときの、格...
-
数字3桁の組み合わせの何通り...
-
関数電卓の表示方法を変更したい
-
Excelで数値の丸め
-
3分の1とは何パーセントでしょ...
-
60進法と10進法
-
エクセル関数で桁数指定し数値...
-
算数です。 割り算の筆算で、商...
-
1÷7の循環小数についてなのです...
-
100!
-
計算をして有効数字2桁で答えな...
おすすめ情報