有効数字について
問題で、データの有効数字が4桁の場合でも、途中の式で有効数字1桁×1桁のかけ算が出てきた場合は、答えが2桁となっても1桁に丸めますか?
また、その後その有効数字1桁の値に確定値をかけて5桁以上になった時は、それも1桁に丸めますか?
また、有効数字1桁の値のルートをとった時、答えはデータの4桁に合わせて丸めますか? (それとも1桁にするんですか?)
↑合ってますか?簡単なことなのでしょうが分かってないです、優しい方教えていただけると嬉しいです
No.2ベストアンサー
- 回答日時:
「有効数字」というのは、数学的な根拠や厳密さがあるものでも何でもない、単なる「計算結果の簡易処理方法」に過ぎないので、「ずっとそのまま、途中で丸めずに計算して、最終結果を何桁で表記するかの時点で考える」ということでよいと思います。
途中結果で数値を丸めると、最終結果にさらなる誤差を混入させる可能性が大きくなりますから。
ただし、途中で割り切れずに循環小数や相当に桁数の大きい数値になった場合には、最終結果に影響が出ない範囲で丸めることは構わないと思います。
最近の下記質問にも、いろいろな回答者さんが見解が述べられていますので、参考にしてください。
↓
https://oshiete.goo.ne.jp/qa/12613591.html
No.4
- 回答日時:
#2さんに1票!
計算途中で桁を丸めるのは、小中学生までにしておきましょう。筆算か8桁程度の電卓を使いますからね。
高校生だったら、プログラミングにも興味を持ち始めると思いますが、その際は1985年出版の東大名誉教授伊理正夫先生の名著「数値計算の常識」(共立出版)を読むことをお勧めします。
https://www.kyoritsu-pub.co.jp/bookdetail/978432 …
この本は、もう30刷以上重刷されているバイブルとも言える本です。
当然、丸め誤差に関する記述もあちこちに出てきます。倍精度(出版当時の限界)でやっていても、数値微分などでは問題が生じるのです。
その問題と言うのは、まさにご質問の内容と似ていて、微分の精度を上げようとして刻み幅hをどんどん小さくしていくと、途中から逆に精度が悪くなるという現象です。(上記の本のP53)
丸め誤差が原因なのです。それも、すごく下の桁での誤差です。簡単に言えば刻みの増分が不揃いになるからです。
このように、数値計算(流体解析とか応力解析など)では、論文発表の前に精度を十分確認しないと大恥をかくことになります。私も社内発表でやらかしたことがあります。
数値計算の計算精度と言うのは、有効数字で片づけられるような程度の低い問題はないのです。
No.5
- 回答日時:
#4です。
計算誤差について、もっと詳しく学びたければ、戸川隼人先生の本をお勧めします。
お薦めは、戸川先生が直接執筆されたのではなく監修された本ですが、佐藤次男ら(2001)「よくわかる数値計算~アルゴリズムと誤差解析の実際~」(日刊工業新聞社)です。
これも10刷以上重刷を重ねている人気本です。
私は論文発表前の誤差チェックのために買いました。(私は統計屋ですが、統計って固有値や逆行列などの計算が必要なのです。その計算のまずさが結果をミスリードします)
計算手法によっては、丸め誤差によって突然発振を始める場合もあり、そんなのの上限とか下限の数値を発表したら、本当に赤っ恥です。
ご質問者が、加減乗除算しか興味ないのであれば、余計なお節介でした。すみません。
No.6
- 回答日時:
#4です。
統計のカテですから、ついでに述べておきます。
例えば加工品の直径が、300mm狙いのときに、299.○○とか300.○○とか、〇〇というばらつきが出ます。このばらつきを解析するときに、仮平均300mmを引いて、計算精度を確保する、なんてことが行われていました。
1980年代の統計の本を読むと「修正項CT」なんていう記述が出てきます。今の本からは消えてしまった筆算の時代の話です。
言いたかったことは、上の桁(普通の人が有効数字と考えているような桁)が重要ではなく、下の桁が重要というケースは前の投稿の「刻みの増分」同様、世間には一杯あるということです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 高校 有効数字の問題です。 2×1.41は2の有効数字は1で1.41の有効数字は3なので少ない方に合わせて 5 2022/05/14 18:22
- 教育・学術・研究 実験の測定結果について。 実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 化学 有効数字に関する問題です。32.75という数値が問題上に出た問題があり、9.938136という答えが 3 2022/11/30 10:56
- 数学 有効数字について この問題の答えが60.0分となっていたのですが、有効数字が3桁なのはどこから判断し 1 2022/04/06 13:16
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか? 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
【有効数字について】 授業で、...
-
ブルーレイディスクの容量に関...
-
Excelの累乗について式とVBAで...
-
VBAで時間の型と計算方法教えて...
-
有効数字について
-
accessのデータ型について
-
もしコンピューターが2進数か...
-
かけ算(わり算)と足し算(引き算...
-
有効数字
-
有効数字の計算
-
16bitはダイナミックレンジが97...
-
【エクセル】四捨五入・二捨三...
-
1バイトは何ビット?
-
文字化けはなぜ日本語が入って...
-
文字の容量(サイズ)についての...
-
GB と Gbの違いの意味
-
KBのMB違いって
-
アセンブリ言語で。
-
1Mbpsって毎秒何キロバイト?
-
実行計画の「COST」と「BYTE」...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
【有効数字について】 授業で、...
-
8進数 8進数の47+32の答えを 8...
-
もしコンピューターが2進数か...
-
16bitはダイナミックレンジが97...
-
エクセル2010で2進数の計算をす...
-
かけ算(わり算)と足し算(引き算...
-
1TBHDDに音楽ファイルは何ア...
-
VBAで時間の型と計算方法教えて...
-
有効数字は最後答えを出すとき...
-
1秒は何ミリ秒とか、単位変換の...
-
なぜ1と0か?
-
【エクセル】四捨五入・二捨三...
-
Excelの累乗について式とVBAで...
-
有効数字の計算
-
符号付の整数8ビット…
-
進数の計算について質問です。 ...
-
有効数字について
-
有効数字
-
フィルムスキャン 4800dpiでデ...
-
エクセルで計算式を作りたい
おすすめ情報
丸め誤差を防ぐために有効数字を大きくして計算すると良いとあったのですが
最初の質問の1桁×1桁(0.05×0.05)は、計算がその後も続く時は丸めずにしておいて良いんですか?