
文字列からdouble型変換で他のPGと誤差がでてしまうのですが、
なんとか同じBinaryにしたいので教えてください。
1.489を他のPGのHEXで表した結果では、
printf("1.489 = %08lx%08lx\n", atof((double)???));
>3ff7d2f1a9fbe76c
私の作ったPGでは
printf("1.489 = %08lx%08lx\n", atof("1.489"));
>3ff7d2f1a9fbe76d
の結果になります。
丸めれば、同じになるような気がしますが、
その方法がわかりません。
SPARC でCのライブラリかなにかあるでしょうか?
どうかよろしくおねがいします。
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
基本的には、その程度の差は当然発生するものとして考えて、それでも問題が起きないようなプログラムにするのが普通です。
他のPG..PGってなんでしょうか?プログラムということですか?
コンパイラやライブラリが異なれば異なる可能性があり、Cの規約でもそこまでの再現性は求めていないので、バージョンによって異なってしまうなどいろんなことが起きるでしょう。
もっともよく使われる方法は、最終的に利用するときに有効桁数を決めてそこで四捨五入してしまうことです。
そうしないとまず可搬性のない、トラブルメーカーのソフトになると思います。
No.2
- 回答日時:
元のプログラムが何をしているかわからなくて、具体例も1個しなかい状況では、汎用的な変換方法などを見つけ出すのは不可能だとおもいます。
LSBから1を引けばいいのか、LSBを0にすればいいのかさえわかりません。もっと大量の例が得られるなら、法則性を導くことはある程度は可能かもしれません。しかし、それとて、その例の範囲で適用できるというだけで、適用できない例外が出てこない保証もありません。
No.1
- 回答日時:
> printf("1.489 = %08lx%08lx\n", atof((double)???));
こちらが何をしているのかわかりませんが、それ次第ですね。
浮動小数点の場合、まるめ誤差が避けられないので、等しいかどうかという条件判断は避けるのが普通です。両者の差と元の値との比率がある程度以下かどうかというので判定するほうがいいでしょう。doubleでは仮数部は53bitあるので比率が1/2^50以下かどうかくらいでしょうか。bit数に依存するのはあまりよくないのですが。
この回答への補足
> > printf("1.489 = %08lx%08lx\n", atof((double)???));
> こちらが何をしているのかわかりませんが、それ次第ですね。
そうです。何をしているかわからないので、
"1.489"の文字列を 何とかして 3ff7d2f1a9fbe76c
の形にしたいのです。
元のPGでは、特殊なことはしていないはずなので、
比率で判断するのではなく、atof 以外の変換関数
もしくは、ある汎用的な定数計算をかますことで上記の値にしたいです。
あと、コンパイルオプション(-fround )も
デフォルトのままでお願いします。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
c言語のプログラミングについて...
-
float型とdouble型の変数の違い...
-
プログラムでの数字につく”f”の...
-
至急です! マクロ定義で #defi...
-
C言語の型による処理速度の違い
-
関数におけるif文とreturn文に...
-
C言語 関数プロトタイプ宣言の...
-
C言語を実行すると-infが出てき...
-
浮動小数点の定数
-
待ち行列シュミレーションのプ...
-
64bit系でのmalloc
-
プログラミングについての質問
-
2次元配列 CXX0030とい...
-
C 開放してるのにエラー(doubl...
-
C言語で-23乗を取り扱うには
-
c言語 標準体重計算のプログラ...
-
インデックスが配列の境界外です.
-
C言語でdouble型の小数点の引き...
-
difftime()について
-
c言語のコンパイルエラー canno...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
C言語を実行すると-infが出てき...
-
doubleの変数にintとintの割り...
-
float型とdouble型の変数の違い...
-
c言語で、繰り返し文の中で、0....
-
至急です! マクロ定義で #defi...
-
C 開放してるのにエラー(doubl...
-
C言語の型による処理速度の違い
-
C言語 関数プロトタイプ宣言の...
-
float と double
-
ラグランジュの補間法のCプログ...
-
C言語のプログラムで#include<m...
-
c言語のコンパイルエラー canno...
-
2分法で方程式の複数の解を自...
-
2次方程式の解を求めるプログ...
-
C言語で台形公式を使った二重積...
-
Cプログラミングの問題です。ニ...
-
物体が往復する動きを作りたい
-
関数におけるif文とreturn文に...
-
doubleは常に%lfとするべきなのか
おすすめ情報