No.1
- 回答日時:
有効数字の桁数=有効桁数です、0の取扱いが重要かと。
(例1)0でない数字で挟まれた0は有効:90.5は有効数字3桁。
(例2)0でない数字より前にある0は無効:0.00012は有効数字2桁。
(例3)小数点より右にある0は有効:123.0000は有効数字7桁。
No.2ベストアンサー
- 回答日時:
>また、有効桁数と有効数字の違いはなんですか?
→これに関しては分からないです。
有効桁数は計算がしやすいように精度を無視した概念になります。
たとえば 1÷3=0.333333333333333333333・・・
と限りなく3が続きます。
有効桁数2で考えると、0.33が答えになってしまいますが、
本当に確実性のある答えは、0.333333333333333333333・・・
なのです。
しかし、これではキリがないので便宜的(べんぎてき)に有効桁数を指定することにより
回答をまるめてしまいます。
これはあくまでも算数などの回答を求めるための手法で、有効桁数のほうが誤差は大きいです。
中学になると「円周率π」は3.14で教育されます。
しかし、精度を上げた回答は、=3.1415926535 8979323846 2643383279 5028841971 6939937510 5820974944 5923078164 0628620899 8628034825 3421170679・・・
と永遠に数字が並びます。
よって、有効桁数は誤差が大きく、
有効桁数を無視した計算の方が誤差が小さく、精度が高いのです。
と、こんな感じでどうでしょうか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 物理学 丸め 5 2022/08/04 12:25
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 高校 この問題の(2)なぜ答えが有効数字1桁なんですか?自分は有効数字2桁で3.7×10^3にしました 2 2023/02/11 17:23
- 数学 有効数字について この問題の答えが60.0分となっていたのですが、有効数字が3桁なのはどこから判断し 1 2022/04/06 13:16
- 高校 何故1番と3番では有効数字3桁で荒らされているのに、 4番は2桁なんですか? 2 2023/05/20 14:13
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
このQ&Aを見た人はこんなQ&Aも見ています
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
循環小数を分数にする方法
-
3÷7のあまりは「3」ですか?
-
エクセル:6E-05という表現は?
-
2進数の割り算が分かりません...
-
数学の階乗はどんな時に使うの...
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
【場合の数】 2桁の自然数で、2...
-
3分の1とは何パーセントでしょ...
-
5個の数字0、1、2、3、4を使っ...
-
3桁の数字は何通りですか?
-
0.120は有効数字何桁ですか? ...
-
7で割ると3余り、9で割ると4余...
-
Excelでの有効数字の合わせ方に...
-
100!
-
です。 0.008020 の有効数字は...
-
定数が入る場合の有効数字
-
一億引く百が苦手なめい
-
筆算(引き算)の教え方は?
-
10進数で123を2進数で表わすと...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
60進法と10進法
-
3÷7のあまりは「3」ですか?
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
EXCELで10万未満切捨ての...
-
数学の階乗はどんな時に使うの...
-
エクセル関数で桁数指定し数値...
-
です。 0.008020 の有効数字は...
-
関数電卓の表示方法を変更したい
-
3分の1とは何パーセントでしょ...
-
0以下の数字は何桁?
-
10進法の数を60進法の数に...
-
エクセルのsumifの検索値
-
【場合の数】 2桁の自然数で、2...
-
0.120は有効数字何桁ですか? ...
-
10進数で123を2進数で表わすと...
おすすめ情報