
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
最適化のかかり具合によって,FPU内部でどこまで計算するかなどが異なり,結果として浮動小数点数の値に細かい差が出てくる可能性はあります。
ただし,そもそも浮動小数点数の演算は誤差があるものとして扱っているはずなので,有意な精度の差は起きないと思います。
# デバッグとリリースで浮動小数点数の値に差が出ること自体あり得ますから。
No.1
- 回答日時:
64ビットコンパイラとかを除けば、基本的にはバージョンによる精度の差はないと思います。
ただし、ずっと以前のバージョンであるVisual C++ 1.5とか、それ以前のものは、int型が16ビット、long doubleが80ビットだったと思います。
バージョンによる計算精度の違いという意味では、これが唯一ではないでしょうか?
この回答へのお礼
お礼日時:2008/02/13 23:41
単精度ではほとんど一致を確認しています。
doubleですと有効桁で多少の違いはでますが、丸め誤差や桁落ちなどで差がでてしまうこともありますね。
アルゴリズムも考慮して比較してみたいと思います。
回答ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
有効数字について 以前質問をし...
-
浮動小数点演算を固定小数点演...
-
BCD・HEX・BINについて
-
データ型 double の桁数について
-
VB6.0での小数点の扱いについて
-
VB.net Double と...
-
大きすぎる数値になるとE+にな...
-
長い桁(小数点以下)が計算でき...
-
VBAでの割り算の余りの求め方
-
浮動小数演算での誤差の蓄積が...
-
「Aに対するBの割合」と「Aに対...
-
Aの値からBの値を除するとは??
-
2曲同時再生するにはどうした...
-
ある商品のロス率を5%見込み、...
-
int16_t の _t は何?
-
fgetsについて
-
マイナスからプラスへ転じた時...
-
三角形の判別
-
プログラムでの数字につく”f”の...
-
std::set<int> で、ある値が何...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
有効数字について 以前質問をし...
-
c languageで 簡単な質問があ...
-
ExcelでPC(パソコン)によって...
-
O(n log n)について2
-
2進数の足し算(C言語)
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
三菱シーケンサ(Aシリーズ)で...
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
除算を使わずに10で割りたい。
-
floatの有効桁数
-
”/”を使わずに割り算したいんで...
-
ExcelのINT関数の計算結果がお...
-
VBAでミリ秒まで出力する方法
-
VB6.0での小数点の扱いについて
-
Fortran において変数の定義
-
計算の丸め誤差の解消について
-
C言語について質問です。
-
CRCの計算方法について
おすすめ情報