![](http://oshiete.xgoo.jp/images/v2/pc/qa/question_title.png?e8efa67)
文字列からdouble型変換で他のPGと誤差がでてしまうのですが、
なんとか同じBinaryにしたいので教えてください。
1.489を他のPGのHEXで表した結果では、
printf("1.489 = %08lx%08lx\n", atof((double)???));
>3ff7d2f1a9fbe76c
私の作ったPGでは
printf("1.489 = %08lx%08lx\n", atof("1.489"));
>3ff7d2f1a9fbe76d
の結果になります。
丸めれば、同じになるような気がしますが、
その方法がわかりません。
SPARC でCのライブラリかなにかあるでしょうか?
どうかよろしくおねがいします。
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
基本的には、その程度の差は当然発生するものとして考えて、それでも問題が起きないようなプログラムにするのが普通です。
他のPG..PGってなんでしょうか?プログラムということですか?
コンパイラやライブラリが異なれば異なる可能性があり、Cの規約でもそこまでの再現性は求めていないので、バージョンによって異なってしまうなどいろんなことが起きるでしょう。
もっともよく使われる方法は、最終的に利用するときに有効桁数を決めてそこで四捨五入してしまうことです。
そうしないとまず可搬性のない、トラブルメーカーのソフトになると思います。
No.2
- 回答日時:
元のプログラムが何をしているかわからなくて、具体例も1個しなかい状況では、汎用的な変換方法などを見つけ出すのは不可能だとおもいます。
LSBから1を引けばいいのか、LSBを0にすればいいのかさえわかりません。もっと大量の例が得られるなら、法則性を導くことはある程度は可能かもしれません。しかし、それとて、その例の範囲で適用できるというだけで、適用できない例外が出てこない保証もありません。
No.1
- 回答日時:
> printf("1.489 = %08lx%08lx\n", atof((double)???));
こちらが何をしているのかわかりませんが、それ次第ですね。
浮動小数点の場合、まるめ誤差が避けられないので、等しいかどうかという条件判断は避けるのが普通です。両者の差と元の値との比率がある程度以下かどうかというので判定するほうがいいでしょう。doubleでは仮数部は53bitあるので比率が1/2^50以下かどうかくらいでしょうか。bit数に依存するのはあまりよくないのですが。
この回答への補足
> > printf("1.489 = %08lx%08lx\n", atof((double)???));
> こちらが何をしているのかわかりませんが、それ次第ですね。
そうです。何をしているかわからないので、
"1.489"の文字列を 何とかして 3ff7d2f1a9fbe76c
の形にしたいのです。
元のPGでは、特殊なことはしていないはずなので、
比率で判断するのではなく、atof 以外の変換関数
もしくは、ある汎用的な定数計算をかますことで上記の値にしたいです。
あと、コンパイルオプション(-fround )も
デフォルトのままでお願いします。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# LU分解法のピボット選択機能実装について(C言語・gcc-9) 1 2022/07/22 15:20
- C言語・C++・C# Cのdoubleの浮動小数点表示について 3 2023/04/17 13:14
- C言語・C++・C# (C言語)めちゃくちゃな値になってしまいます。 5 2022/08/13 11:55
- C言語・C++・C# 10個の実数に対する降順ソート結果を出力するプログラムを作りたいのですが、以下のプログラムをどう直せ 1 2022/07/09 22:16
- C言語・C++・C# LU分解法のピボッティングについて(C言語/gcc-9) 3 2022/07/11 23:10
- C言語・C++・C# C言語のマクローリン展開ローラン展開のコードについて 3 2022/12/15 14:45
- C言語・C++・C# プログラミングの授業の課題です 1 2023/01/17 22:15
- 物理学 照度の計算 3 2023/04/21 22:18
- Excel(エクセル) 表示形式、文字列セル(列)に数式を入力するには マクロ 1 2022/09/18 10:53
- C言語・C++・C# C++のcinの動作 5 2023/02/26 00:13
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
至急です! マクロ定義で #defi...
-
C言語の型による処理速度の違い
-
C 開放してるのにエラー(doubl...
-
-1.#IND00と出てしまうのですが...
-
doubleの変数にintとintの割り...
-
c言語で、繰り返し文の中で、0....
-
int とdoubleの比較
-
Cで3乗根を求める方法
-
C言語を実行すると-infが出てき...
-
sin(x)の近似について
-
C言語
-
C言語初心者 構造体 課題について
-
DWORDの警告
-
C言語 関数プロトタイプ宣言の...
-
C言語(プログラミング)関連の質...
-
Cプログラミングの問題です。ニ...
-
C言語でdouble型の小数点の引き...
-
関数におけるif文とreturn文に...
-
指数の表示
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
doubleの変数にintとintの割り...
-
float型とdouble型の変数の違い...
-
c言語で、繰り返し文の中で、0....
-
C言語を実行すると-infが出てき...
-
C言語 関数プロトタイプ宣言の...
-
C 開放してるのにエラー(doubl...
-
C言語の型による処理速度の違い
-
至急です! マクロ定義で #defi...
-
関数におけるif文とreturn文に...
-
c言語のプログラミングについて...
-
2分法で方程式の複数の解を自...
-
-1.#IND00と出てしまうのですが...
-
doubleは常に%lfとするべきなのか
-
C言語のpow関数の不具合
-
C言語で-23乗を取り扱うには
-
C言語で台形公式を使った二重積...
-
Cで3乗根を求める方法
-
sin(x)の近似について
-
2次方程式の解を求めるプログ...
おすすめ情報