
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
最適化のかかり具合によって,FPU内部でどこまで計算するかなどが異なり,結果として浮動小数点数の値に細かい差が出てくる可能性はあります。
ただし,そもそも浮動小数点数の演算は誤差があるものとして扱っているはずなので,有意な精度の差は起きないと思います。
# デバッグとリリースで浮動小数点数の値に差が出ること自体あり得ますから。
No.1
- 回答日時:
64ビットコンパイラとかを除けば、基本的にはバージョンによる精度の差はないと思います。
ただし、ずっと以前のバージョンであるVisual C++ 1.5とか、それ以前のものは、int型が16ビット、long doubleが80ビットだったと思います。
バージョンによる計算精度の違いという意味では、これが唯一ではないでしょうか?
単精度ではほとんど一致を確認しています。
doubleですと有効桁で多少の違いはでますが、丸め誤差や桁落ちなどで差がでてしまうこともありますね。
アルゴリズムも考慮して比較してみたいと思います。
回答ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Windows 10 Visual StudioとVisual C++ Build Toolsについて 1 2023/04/16 03:42
- その他(プログラミング・Web制作) Visual StudioでDjangoのプロジェクト配下のappを作成する方法 1 2022/05/01 03:47
- C言語・C++・C# Microsoft Visual Studio Community 2019 タブキーが入力できない 1 2022/04/30 06:39
- ソフトウェア VisualStudio のデータブレークポイントを有効にする方法 1 2023/05/01 09:42
- Java EclipseとVisual StudioをPC1台にインストールしただけではPCは重くならない? 3 2022/12/08 15:35
- その他(プログラミング・Web制作) Scratchについてです 作ったプログラムをコンピュータに保存してそのまま何もいじらずにそのプログ 1 2022/05/19 18:51
- C言語・C++・C# Microsoft visual studioはインストールだけであれば無料でしょうか? また、vi 2 2022/04/03 21:24
- C言語・C++・C# visual studio 2019において、宣言していない変数があるのにエラーなくビルド出来ました 6 2023/03/08 16:32
- C言語・C++・C# Switch向けにpcでc言語でゲームを作っているのですが、開発環境はWindows10のvisua 1 2022/04/02 07:04
- Visual Basic(VBA) フレームワーク「4.8.1」で、[Sub Main]が動かない。助けて下さい 3 2022/11/14 15:40
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ExcelでPC(パソコン)によって...
-
有効数字について 以前質問をし...
-
計算の丸め誤差の解消について
-
ExcelのINT関数の計算結果がお...
-
c languageで 簡単な質問があ...
-
2進数の足し算(C言語)
-
三菱シーケンサ(Aシリーズ)で...
-
VB6.0での小数点の扱いについて
-
EXCELの関数"STDEV(標準偏差)"...
-
2進数データのビット演算
-
VB.net Double と...
-
16進数 加算 減算 C言語
-
EXCELで 0.1 はなぜ 0.1 となる...
-
距離から緯度経度を求める方法
-
Double型について
-
どんな数字を入力してもaverage...
-
double型からfloat型への型変換...
-
O(n log n)について2
-
データ型 double の桁数について
-
C言語 型変換のタイミング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
有効数字について 以前質問をし...
-
三菱シーケンサ(Aシリーズ)で...
-
ExcelでPC(パソコン)によって...
-
c languageで 簡単な質問があ...
-
ExcelのINT関数の計算結果がお...
-
VB.net Double と...
-
VBAでミリ秒まで出力する方法
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
floatの有効桁数
-
除算を使わずに10で割りたい。
-
計算の丸め誤差の解消について
-
VB6.0での小数点の扱いについて
-
コンピューターは指数関数をど...
-
2038年問題 日付算出
-
時刻の比較
-
2進数、16進数、10進数のことを...
-
浮動小数演算は実行環境の変化...
-
2進数の足し算(C言語)
おすすめ情報