
文字列からdouble型変換で他のPGと誤差がでてしまうのですが、
なんとか同じBinaryにしたいので教えてください。
1.489を他のPGのHEXで表した結果では、
printf("1.489 = %08lx%08lx\n", atof((double)???));
>3ff7d2f1a9fbe76c
私の作ったPGでは
printf("1.489 = %08lx%08lx\n", atof("1.489"));
>3ff7d2f1a9fbe76d
の結果になります。
丸めれば、同じになるような気がしますが、
その方法がわかりません。
SPARC でCのライブラリかなにかあるでしょうか?
どうかよろしくおねがいします。
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
基本的には、その程度の差は当然発生するものとして考えて、それでも問題が起きないようなプログラムにするのが普通です。
他のPG..PGってなんでしょうか?プログラムということですか?
コンパイラやライブラリが異なれば異なる可能性があり、Cの規約でもそこまでの再現性は求めていないので、バージョンによって異なってしまうなどいろんなことが起きるでしょう。
もっともよく使われる方法は、最終的に利用するときに有効桁数を決めてそこで四捨五入してしまうことです。
そうしないとまず可搬性のない、トラブルメーカーのソフトになると思います。
No.2
- 回答日時:
元のプログラムが何をしているかわからなくて、具体例も1個しなかい状況では、汎用的な変換方法などを見つけ出すのは不可能だとおもいます。
LSBから1を引けばいいのか、LSBを0にすればいいのかさえわかりません。もっと大量の例が得られるなら、法則性を導くことはある程度は可能かもしれません。しかし、それとて、その例の範囲で適用できるというだけで、適用できない例外が出てこない保証もありません。
No.1
- 回答日時:
> printf("1.489 = %08lx%08lx\n", atof((double)???));
こちらが何をしているのかわかりませんが、それ次第ですね。
浮動小数点の場合、まるめ誤差が避けられないので、等しいかどうかという条件判断は避けるのが普通です。両者の差と元の値との比率がある程度以下かどうかというので判定するほうがいいでしょう。doubleでは仮数部は53bitあるので比率が1/2^50以下かどうかくらいでしょうか。bit数に依存するのはあまりよくないのですが。
この回答への補足
> > printf("1.489 = %08lx%08lx\n", atof((double)???));
> こちらが何をしているのかわかりませんが、それ次第ですね。
そうです。何をしているかわからないので、
"1.489"の文字列を 何とかして 3ff7d2f1a9fbe76c
の形にしたいのです。
元のPGでは、特殊なことはしていないはずなので、
比率で判断するのではなく、atof 以外の変換関数
もしくは、ある汎用的な定数計算をかますことで上記の値にしたいです。
あと、コンパイルオプション(-fround )も
デフォルトのままでお願いします。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# LU分解法のピボット選択機能実装について(C言語・gcc-9) 1 2022/07/22 15:20
- C言語・C++・C# Cのdoubleの浮動小数点表示について 3 2023/04/17 13:14
- C言語・C++・C# (C言語)めちゃくちゃな値になってしまいます。 5 2022/08/13 11:55
- C言語・C++・C# 10個の実数に対する降順ソート結果を出力するプログラムを作りたいのですが、以下のプログラムをどう直せ 1 2022/07/09 22:16
- C言語・C++・C# LU分解法のピボッティングについて(C言語/gcc-9) 3 2022/07/11 23:10
- C言語・C++・C# C言語のマクローリン展開ローラン展開のコードについて 3 2022/12/15 14:45
- C言語・C++・C# プログラミングの授業の課題です 1 2023/01/17 22:15
- 物理学 照度の計算 3 2023/04/21 22:18
- Excel(エクセル) 表示形式、文字列セル(列)に数式を入力するには マクロ 1 2022/09/18 10:53
- C言語・C++・C# C++のcinの動作 5 2023/02/26 00:13
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・昔のあなたへのアドバイス
- ・字面がカッコいい英単語
- ・許せない心理テスト
- ・歩いた自慢大会
- ・「I love you」 をかっこよく翻訳してみてください
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・はじめての旅行はどこに行きましたか?
- ・準・究極の選択
- ・この人頭いいなと思ったエピソード
- ・「それ、メッセージ花火でわざわざ伝えること?」
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・【お題】甲子園での思い出の残し方
- ・【お題】動物のキャッチフレーズ
- ・人生で一番思い出に残ってる靴
- ・これ何て呼びますか Part2
- ・スタッフと宿泊客が全員斜め上を行くホテルのレビュー
- ・あなたが好きな本屋さんを教えてください
- ・かっこよく答えてください!!
- ・一回も披露したことのない豆知識
- ・ショボ短歌会
- ・いちばん失敗した人決定戦
- ・性格悪い人が優勝
- ・最速怪談選手権
- ・限定しりとり
- ・性格いい人が優勝
- ・これ何て呼びますか
- ・チョコミントアイス
- ・単二電池
- ・初めて自分の家と他人の家が違う、と意識した時
- ・「これはヤバかったな」という遅刻エピソード
- ・ゴリラ向け動画サイト「ウホウホ動画」にありがちなこと
- ・泣きながら食べたご飯の思い出
- ・一番好きなみそ汁の具材は?
- ・人生で一番お金がなかったとき
- ・カラオケの鉄板ソング
- ・自分用のお土産
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
至急です! マクロ定義で #defi...
-
C言語のプログラムで#include<m...
-
プログラムでの数字につく”f”の...
-
doubleの変数にintとintの割り...
-
浮動小数点の定数
-
float型とdouble型の変数の違い...
-
C言語のpow関数の不具合
-
正規分布の乱数生成
-
「Aに対するBの割合」と「Aに対...
-
Aの値からBの値を除するとは??
-
Excelで1つしかない値だけを抽...
-
「指定されたキャストは有効で...
-
インスタンス化の"class"の有無...
-
Enterキーを押されたら次の処理...
-
信頼区間の1.96や1.65ってどこ...
-
2の補数を計算するプログラム
-
batプログラム上で文字列を入力...
-
const_castのつかいどころを教...
-
ある商品のロス率を5%見込み、...
-
正負を反転させて出力するプロ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
C 開放してるのにエラー(doubl...
-
doubleの変数にintとintの割り...
-
至急です! マクロ定義で #defi...
-
C言語の型による処理速度の違い
-
C言語 関数プロトタイプ宣言の...
-
float型とdouble型の変数の違い...
-
C言語を実行すると-infが出てき...
-
c言語で、繰り返し文の中で、0....
-
関数におけるif文とreturn文に...
-
int とdoubleの比較
-
difftime()について
-
(C,C++言語)関数の引数は自動キ...
-
listに構造体を格納
-
数値を指数部と仮数部に分離したい
-
DWORDの警告
-
浮動小数点の誤差のあわせ方
-
doubleは常に%lfとするべきなのか
-
C言語でdouble型の小数点の引き...
-
-1.#IND00と出てしまうのですが...
おすすめ情報