No.5ベストアンサー
- 回答日時:
もしかして、質問者さんは、
fabs(x1-x2)<EPS と
abs(x1-x2)<EPS で結果が変わるのは何故かということを、質問されていますか?
absは戻り値が整数型のため、小数点以下は切り捨てられます。
従って、x1=1.5 x2 = 1.7でabs(x1-x2)は、abs(-0.2)のため、
結果は0になります。
よって、abs(x1-x2)<EPS は真になります。
一方、fabs(x1-x2)は、結果が0.2になるため、
fabs(x1-x2)<EPS は偽になります。
No.4
- 回答日時:
「答えが変わる」というのは「何と何を比較して」変わる, ということ?
あと余計かもしれないけど 10e-10 に違和感がある. 1e-9 じゃダメなんだろうか.
No.3
- 回答日時:
>例えば、EPSが、10e-10と浮動小数点で、あらわされ、
>fabs(x1-x2)<EPS のように大小比較をする場合
>に、答えが変わるのは、方による演算の誤差ですか?
多分、うまく行かないのは、fabs(x1-x2)に問題があるのではなくて、他の箇所に問題があるからだと思います。
ソース全体を提示された方が解決につながると思います。
ソース前提を提示されてはいかがでしょうか。
その際は、
1.OS、
2.コンパイラ
3.そのソースの仕様(なにを行っているか)
4.期待する結果
5.現状の不具合の内容
を提示すると更に良いかと。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ホームページビルダーで料金の...
-
65536は2の何乗なのでしょうか?
-
計算量の少ないn乗根の求め方
-
0xf0=256?
-
排他的論理和 BCC(水平パリテ...
-
EXCELなどで「返す」という表現
-
VB6.0でのバイナリデータの扱い...
-
カナダでのjavascript
-
C言語初心者。静磁場の計算。台...
-
エクセルのセル式で恐縮ですが...
-
CRC8を教えてください
-
バッチファイルでウインドウを...
-
Xwindowのプログラミング
-
C言語についてです。 再帰を使...
-
時間の足し算 C++Builder
-
VBAの再計算が反映されない件に...
-
スレッド処理からダイアログを...
-
Androidでのメトロノーム開発
-
パチンコゲームを作りたいので...
-
アドオン利率を実質年率に変換
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
65536は2の何乗なのでしょうか?
-
排他的論理和 BCC(水平パリテ...
-
VBAの再計算が反映されない件に...
-
バッチファイルでウインドウを...
-
変化させるセルが変化しない
-
EXCELなどで「返す」という表現
-
傾いた四角形内の範囲の条件式
-
エクセルで特定のセルのみを任...
-
CとFORTRANの計算速度はどちら...
-
Visual C++でdebugとreleaseで...
-
モジュラス103の計算とは何でし...
-
なぜオーバーフローになるので...
-
VB6で正確なミリ秒を計測したい...
-
VBでReplace
-
引き放し法による除算アルゴリ...
-
matlabで計算終了
-
CRC8を教えてください
-
VBAで関数をつくる
-
Excel VBAの残業時間の合計計算...
-
等高線を計算したい
おすすめ情報