初歩的な質問ですいません。
SetTani(char* text, double x)
{
BOOL test = FALSE;
double tmp = x;
double tmp1 = 1000.000;
if(x < 0){//もしもマイナスだったらプラスにする
tmp = fabs(tmp);
test = TRUE;
}
if(tmp >= tmp1){//ここで問題が発生
・
・
・
}
xに-1000が入ってきた時に問題が発生します。
絶対値を求めたあとのif文ではじかれてしまいます。
デバッグモードでみてみても
tmp 1000.000000
tmp1 1000.000000
となっているのになぜ
if(tmp >= tmp1)
がTRUEとならないのでしょうか?
ちなみにxに1000が入ってきたときは
tmp 1000.000000
tmp1 1000.000000
となっていて
if(tmp >= tmp1)がTRUEとなります。
よろしくお願いします。
No.4ベストアンサー
- 回答日時:
多分、実数の誤差に起因する問題でしょう。
変数のウォッチ(VC を使ってる?)ではなく、問題の箇所の直前に、以下のような文を追加して、変数の内容を確認してみて下さい。
printf("tmp = %40.30f, tmp1 = %40.30f\n", tmp, tmp1);
多分、内容が違っているはず。
質問にある「 x に -1000 が入ってきたとき」というのは、直接 x に -1000 を代入
したのではなく、float の変数を使った演算の結果だったりしませんか?
この回答への補足
tmp = 1000.000000000000000000000000000000,
tmp1 = 1000.000000000000000000000000000000
となっています。
ちなみに_chgsign(tmp)
もやってみましたが一緒でした。
ふぅ・・本当に何が原因なんでしょうか。
すいません、僕の勘違いでした。
やはりa-kumaさんがいっていた通り
tmp1 999.999999999999999999でした。
デバッグウィンドウでは
1000.00000000000000
なのに
なぜにprintfではしっかり出るのでしょうか?
No.3
- 回答日時:
tmpとtmp1をそれぞれ小数点以下20桁くらいまで表示してみて下さい。
何か分かるかも。
No.2
- 回答日時:
時間があれば、変数をdoubleからintに変更してみてください。
もし同じ不具合が起こらなくなったら、計算機内部で小数を保持する形式に起因する問題だと思います。(詳しいことは…わかりません。すみません)
もし同じ状況なら…わかりません。(ほんとにすみません)
この回答への補足
int test1 = (int)tmp;
int test2 = (int)tmp1;
if(test1 >= test2)
A;
else
B;
デバッグウィンドウでは
test1 1000
test2 1000
となっているのに
Bが実行されてしまいます。
-1000を1000に変換する方法がいけないのでしょうか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) エクセルVBAでオブジェクトが必要です 2 2022/09/10 16:37
- C言語・C++・C# 質問です 下記のコードを分かりやすく解説お願いします 初心者です #include ‹stdio.h 3 2022/05/26 22:03
- Visual Basic(VBA) vba 重複データ合算 5 2023/07/05 18:55
- Excel(エクセル) エクセルのマクロについて教えてください。 1 2023/02/06 13:01
- C言語・C++・C# LU分解法のピボッティングについて(C言語/gcc-9) 3 2022/07/11 23:10
- Visual Basic(VBA) VBA GetAttrについて教えてください 2 2022/12/22 15:25
- Excel(エクセル) エクセルのマクロについて教えてください。 1 2023/02/11 11:05
- C言語・C++・C# C言語プログラム変更 2 2022/12/21 15:03
- Visual Basic(VBA) ExcelのVBAコードについて教えてください。 1 2023/01/23 09:24
- Excel(エクセル) マクロのコードを、少しでも削って短くしたい 3 2022/08/30 07:46
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
C言語を実行すると-infが出てき...
-
2分法で方程式の複数の解を自...
-
doubleの変数にintとintの割り...
-
至急です! マクロ定義で #defi...
-
float型とdouble型の変数の違い...
-
-1.#IND00と出てしまうのですが...
-
C言語で-23乗を取り扱うには
-
C 開放してるのにエラー(doubl...
-
C言語 関数プロトタイプ宣言の...
-
C# 浮動小数の数値文字列化
-
DWORDの警告
-
線形補間
-
1円、2円、3円・・・と貯金...
-
Cで3乗根を求める方法
-
C言語でのsinxのマクローリン展...
-
関数におけるif文とreturn文に...
-
「割り算」 と 「分数の掛け算」
-
C言語でdouble型の小数点の引き...
-
int とdoubleの比較
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
プログラムでの数字につく”f”の...
-
doubleの変数にintとintの割り...
-
C 開放してるのにエラー(doubl...
-
Cで3乗根を求める方法
-
float型とdouble型の変数の違い...
-
至急です! マクロ定義で #defi...
-
C言語の型による処理速度の違い
-
int とdoubleの比較
-
関数におけるif文とreturn文に...
-
C言語初心者 構造体 課題について
-
c言語のコンパイルエラー canno...
-
C言語 関数プロトタイプ宣言の...
-
C言語を実行すると-infが出てき...
-
float?数字の後にLがつくもの
-
数値を指数部と仮数部に分離したい
-
difftime()について
-
浮動小数点数が表示されないん...
-
たくさんの数の平均を求める方...
-
DWORDの警告
-
-1.#IND00と出てしまうのですが...
おすすめ情報