![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?e8efa67)
No.3ベストアンサー
- 回答日時:
全然違いますよ。
例えば有効桁数4桁の数
12.34
12.46
があり、この2つの差を求める必要があるとします。
12.34-12.46=-0.12
で、有効桁数は2桁に落ちてしまいます。
これが桁落ちです。
有効桁の前の部分が引き算で無くなってしまうのが
原因で起こる計算精度の悪化です。
例えば一例を挙げると、
テーラー展開等で数値計算するとき
展開が交代級数の和になってしまうときは
計算精度が桁落ちでムチャクチャになって
しまうことが有ります。
数値計算ではこのようなことが無いように
充分な注意が必要です。
No.2
- 回答日時:
桁落ちは引き算の時に有効桁数が減ってしまうことです。
123.456 - 123.455=0.001
有効桁数6桁同士の引き算で有効桁数が1桁になってしまいました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 物理学 丸め 5 2022/08/04 12:25
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- 高校 高校化学、気体、温度の有効数字 3 2023/04/02 11:39
- 化学 有効数字の問題にです 4 2022/08/02 22:33
- 高校 この問題の(2)なぜ答えが有効数字1桁なんですか?自分は有効数字2桁で3.7×10^3にしました 2 2023/02/11 17:23
- 計算機科学 この問題なぜ答えが有効数字2桁なんでしょうか、問題の数字は有効数字3桁なのに… 5 2022/06/17 10:06
- 物理学 「NHKの時報の音は、振動数が440Hzです。この音の波長を求めましょう。ただし、音の伝わる速度を3 6 2023/03/02 18:24
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- PDF C#でfloatを整数部、小数部とも桁数固定で文字表示したい 2 2022/07/28 09:37
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
O(n log n)について2
-
C言語 型変換のタイミング
-
ExcelでPC(パソコン)によって...
-
Excel VBAでの数値の計算につい...
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
VB6.0での小数点の扱いについて
-
計算に誤差が出る?
-
有効数字について 以前質問をし...
-
計算の丸め誤差の解消について
-
VB6のFIX関数での誤差について
-
CRCの計算方法について
-
ExcelのINT関数の計算結果がお...
-
VBAでの割り算の余りの求め方
-
VBAでミリ秒まで出力する方法
-
三菱シーケンサ(Aシリーズ)で...
-
16進数 加算 減算 C言語
-
Double型について
-
距離から緯度経度を求める方法
-
EXCELの関数"STDEV(標準偏差)"...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
16進数 加算 減算 C言語
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
”/”を使わずに割り算したいんで...
-
三菱シーケンサ(Aシリーズ)で...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
除算を使わずに10で割りたい。
-
EXCELの関数"STDEV(標準偏差)"...
-
floatの有効桁数
-
VBAでミリ秒まで出力する方法
-
100桁の計算ができなくて困って...
-
2進数の足し算(C言語)
-
VB6.0での小数点の扱いについて
-
VBAでの割り算の余りの求め方
-
コンピューターは指数関数をど...
-
距離から緯度経度を求める方法
-
BCD・HEX・BINについて
おすすめ情報