No.2ベストアンサー
- 回答日時:
自分も消費税付の銭計算プログラムで、四捨五入には時々ひっかかります。
方針としては、以下のようになると思います。(1)2/3/3^(1/2)のように、*と/のみの場合は、必要精度が上からn桁なら、(n+1)桁まで取って計算すれば十分。
(2)a1+a2+a3-a4+・・・のように、+-が含まれる場合は、足し引きする項の数によります。
例えば整数範囲が必要精度として、各aiを小数下1位の有効数字で計算するとすれば、四捨五入により、aiの真値は、
ai-0.05≦ai<ai+0.05
の範囲ですが、誤差の符号が全てそろっている最悪の事態を想定すると、10個の誤差の累積で、計算結果には、-0.5~0.5の誤差が入り、整数範囲に影響する可能性が出ます。従って10^1=10個の足し引きをするなら、1/10^2=1/100の有効数字が欲しいところです。
現実には、計算機のフル精度で計算して、必要桁数に丸めるという方法をとっています。もちろん#1さんの有理化は良い方法だと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 解き方が分かるくて質問しました。 連続型確率分布 f(x) = 3/4(1 − x^2), − 1 2022/07/21 22:48
- 数学 小数点の計算についてです。 答えは与えられた数字の中で最も少ない桁に四捨五入で合わせるのですが、ひと 2 2023/04/04 15:19
- 統計学 母集団分布を平均 μ, 分散 σ2 の正規分布と想定し, 母集団から無作為抽出した標本のデータ(標本 4 2023/01/30 20:25
- 高校受験 数学の問題がわからず困っています。 映画館とコンサート会場を含んだ総合施設がある。それぞれの座席数の 3 2023/01/27 22:54
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 数学 積分の計算 2 2022/04/10 20:14
- 統計学 統計学の問題です。教えてください(_ _) 数万人の有権者がいる選挙区で, 無作為に400人の標本を 2 2023/02/03 15:27
- 薬学 薬物の 90%が消化管で吸収され 30%が肝臓で初回通過効果をうけ、他に減少がない場 合の 2 2023/01/14 16:12
- 数学 少数の割り算 8 2022/07/09 08:58
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ミリグラム(mg)からグラム(g...
-
5トンの水は、何㎥になるのでし...
-
消毒薬の計算方法 を教えてく...
-
「0℃,1atmで窒素の密度は、1.2...
-
数学の問題です(><)数1です
-
化学
-
中和式をエクセルの計算式の作成
-
50%+50%=○○
-
ファクターの求め方
-
中和滴定によるファクターの計...
-
濃度0.1mol/Lの炭酸水素ナトリ...
-
硫酸で服に穴が開く
-
硫酸の安全な中和方法は?
-
硫酸銅水溶液の実験について(...
-
水酸化ナトリウム水溶液のpH値...
-
もう一度質問します 界面活性剤...
-
マグネシウムは水酸化ナトリウ...
-
シュウ酸のモル濃度の求め方
-
【mg/dL】⇔【mmol/L】の変換方...
-
どこまでが濃塩酸?どこまでが...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
おすすめ情報