
文字列からdouble型変換で他のPGと誤差がでてしまうのですが、
なんとか同じBinaryにしたいので教えてください。
1.489を他のPGのHEXで表した結果では、
printf("1.489 = %08lx%08lx\n", atof((double)???));
>3ff7d2f1a9fbe76c
私の作ったPGでは
printf("1.489 = %08lx%08lx\n", atof("1.489"));
>3ff7d2f1a9fbe76d
の結果になります。
丸めれば、同じになるような気がしますが、
その方法がわかりません。
SPARC でCのライブラリかなにかあるでしょうか?
どうかよろしくおねがいします。
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
基本的には、その程度の差は当然発生するものとして考えて、それでも問題が起きないようなプログラムにするのが普通です。
他のPG..PGってなんでしょうか?プログラムということですか?
コンパイラやライブラリが異なれば異なる可能性があり、Cの規約でもそこまでの再現性は求めていないので、バージョンによって異なってしまうなどいろんなことが起きるでしょう。
もっともよく使われる方法は、最終的に利用するときに有効桁数を決めてそこで四捨五入してしまうことです。
そうしないとまず可搬性のない、トラブルメーカーのソフトになると思います。
No.2
- 回答日時:
元のプログラムが何をしているかわからなくて、具体例も1個しなかい状況では、汎用的な変換方法などを見つけ出すのは不可能だとおもいます。
LSBから1を引けばいいのか、LSBを0にすればいいのかさえわかりません。もっと大量の例が得られるなら、法則性を導くことはある程度は可能かもしれません。しかし、それとて、その例の範囲で適用できるというだけで、適用できない例外が出てこない保証もありません。
No.1
- 回答日時:
> printf("1.489 = %08lx%08lx\n", atof((double)???));
こちらが何をしているのかわかりませんが、それ次第ですね。
浮動小数点の場合、まるめ誤差が避けられないので、等しいかどうかという条件判断は避けるのが普通です。両者の差と元の値との比率がある程度以下かどうかというので判定するほうがいいでしょう。doubleでは仮数部は53bitあるので比率が1/2^50以下かどうかくらいでしょうか。bit数に依存するのはあまりよくないのですが。
この回答への補足
> > printf("1.489 = %08lx%08lx\n", atof((double)???));
> こちらが何をしているのかわかりませんが、それ次第ですね。
そうです。何をしているかわからないので、
"1.489"の文字列を 何とかして 3ff7d2f1a9fbe76c
の形にしたいのです。
元のPGでは、特殊なことはしていないはずなので、
比率で判断するのではなく、atof 以外の変換関数
もしくは、ある汎用的な定数計算をかますことで上記の値にしたいです。
あと、コンパイルオプション(-fround )も
デフォルトのままでお願いします。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
C言語 関数プロトタイプ宣言の...
-
doubleの変数にintとintの割り...
-
int とdoubleの比較
-
if((double)a >= (double)b))
-
浮動小数点の誤差のあわせ方
-
【C言語】二階微分方程式をル...
-
「割り算」 と 「分数の掛け算」
-
浮動小数点の定数
-
C言語を実行すると-infが出てき...
-
-1.#IND00と出てしまうのですが...
-
fgets()による繰り返し入力(c言語)
-
doubleは常に%lfとするべきなのか
-
(C,C++言語)関数の引数は自動キ...
-
C++で外積
-
プロトタイプ宣言の説明
-
difftime()について
-
最早開始時間と最遅完了時刻を...
-
信頼区間の1.96や1.65ってどこ...
-
Aの値からBの値を除するとは??
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
C 開放してるのにエラー(doubl...
-
c言語で、繰り返し文の中で、0....
-
doubleの変数にintとintの割り...
-
至急です! マクロ定義で #defi...
-
C言語 関数プロトタイプ宣言の...
-
浮動小数点の定数
-
DWORDの警告
-
C言語の型による処理速度の違い
-
C言語で台形公式を使った二重積...
-
C言語を実行すると-infが出てき...
-
int とdoubleの比較
-
C言語初心者 構造体 課題について
-
たくさんの数の平均を求める方...
-
EXE1→DLL→EXE2数値を受け渡す方法
-
プログラミングでのテイラー展開
-
C++初心者です。簡単なスコア計...
-
【C言語】二階微分方程式をル...
-
fgets()による繰り返し入力(c言語)
-
2分法で方程式の複数の解を自...
おすすめ情報