当方PowerBuilder7で作成されたシステムを検証しています
そこで・・
Double 変数1
Double 変数2
Double 変数3
変数1 = 10
変数2 = 10.1
変数3 = 変数1 - 変数2
というコードがあります
単純に考えると「変数3」には「-0.1」が正解ですよね?
しかし、実際実行してみると「-0.09999999999」となって
しまいます。
Doubleの仕様なのか PBのバグなのかまったく分かりません
この現象を説明できる方・説明している頁をご存知の方、
ご教授よろしくお願いします。
No.1ベストアンサー
- 回答日時:
一般的に、コンピュータでは、0.1を正確に表現することが苦手です。
それは、0.1が2進数で記数できないことに端を発します。
なので、PBのバグというより、Doubleの仕様というかそういうものです。
10進の記数で表現できる型があれば、それを使えばいいのですが、そういうのは、計算機にとっては、あまり効率的ではなく負荷が大きいです。
ご回答ありがとうございます
やはりそうなのですね・・
ちなみにVBで同様のコードを書いても同様な結果でした
とりあえずPBのDecimalというデータ型を使うといける
ようなので、そちらでやります。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・【お題】絵本のタイトル
- ・【大喜利】世界最古のコンビニについて知ってる事を教えてください【投稿~10/10(木)】
- ・メモのコツを教えてください!
- ・CDの保有枚数を教えてください
- ・ホテルを選ぶとき、これだけは譲れない条件TOP3は?
- ・家・車以外で、人生で一番奮発した買い物
- ・人生最悪の忘れ物
- ・【コナン30周年】嘘でしょ!?と思った○○周年を教えて【ハルヒ20周年】
- ・ハマっている「お菓子」を教えて!
- ・最近、いつ泣きましたか?
- ・夏が終わったと感じる瞬間って、どんな時?
- ・10秒目をつむったら…
- ・人生のプチ美学を教えてください!!
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・都道府県穴埋めゲーム
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
PowerPointで時計表示
-
ラベルの色がかわってくれない
-
JavaScriptで初めてOOPを試した...
-
JSPの処理の途中で、JavaScript...
-
アクセスのフォームでタイマー...
-
デザイン時のVisible=Falseは実...
-
VBAについて
-
PowerBuilderのDOUBLEデータ型...
-
VBAでWEBのリンクをクリック...
-
jQueryで行う初期表示処理について
-
VB.netでタイマーがスタートし...
-
VBA 図形を塗りつぶし無しにす...
-
PHPとjquery
-
C#でボタン名を変更しても動く
-
正整数の半角数字かどうか判定する
-
IEで見ると「構文エラー」にな...
-
VB.NETからWEBブラウザの操作に...
-
PDFフォームで条件つき金額を表...
-
文字認証の問題
-
六曜カレンダー
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
〔Excel:VBA〕マクロの実行が異...
-
JSPの処理の途中で、JavaScript...
-
if(1){...}とはどういうことで...
-
デザイン時のVisible=Falseは実...
-
初心者です。gulpでコンパイル...
-
C#でボタン名を変更しても動く
-
PowerPointで時計表示
-
jQuery ui Datepicker 明日以降...
-
1つのVBAコードをすべてのコア...
-
リクエスト結果が一瞬しか表示...
-
Excel VBA にて JavaScript の...
-
VBA ステータスバー DoEvents
-
Excelのマクロ一括実行ができな...
-
VBA SORT Applyでエラー
-
JavaScriptでショートカットキ...
-
innerHTMLなどの反映タイミング
-
既存のwebサイトで、ローカルの...
-
OnTime を使って、分間隔で実行...
-
2回目のSortメソッドが失敗~20...
-
resizeToメソッドが動作しません
おすすめ情報