電子書籍の厳選無料作品が豊富!

・有効桁数6桁の場合

・丸め誤差
有効桁数を超えた数値を消す
123.4567 → 123.456

・桁落ち
近似値との減算で有効桁数を超えた数値を消す

これって丸め誤差とほぼ同じ意味ですよね?
何か間違えていますか?

A 回答 (3件)

全然違いますよ。



例えば有効桁数4桁の数
12.34
12.46
があり、この2つの差を求める必要があるとします。
12.34-12.46=-0.12
で、有効桁数は2桁に落ちてしまいます。
これが桁落ちです。
有効桁の前の部分が引き算で無くなってしまうのが
原因で起こる計算精度の悪化です。

例えば一例を挙げると、
テーラー展開等で数値計算するとき
展開が交代級数の和になってしまうときは
計算精度が桁落ちでムチャクチャになって
しまうことが有ります。

数値計算ではこのようなことが無いように
充分な注意が必要です。
    • good
    • 0

桁落ちは引き算の時に有効桁数が減ってしまうことです。


123.456 - 123.455=0.001
有効桁数6桁同士の引き算で有効桁数が1桁になってしまいました。
    • good
    • 0

結局は、切り捨て、と言う事で同じです。


なお、「丸め誤差」と言う事ではなく、単に「丸め」です。
誤差は、切り捨て部分で0~9になります。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!