プログラム中(VBscript)で、データベースから、商品データ(数値)を取り出して、過去のデータから現在のデータまでをどんどん値を引いていって、その経過を表示する、という引き算を繰り返す作業を行っているのですが、途中でバグが出てしまいます。
実際に取り出される数値としては、整数もしくは小数点以下第一位までの数値です。
どのようなバグが発生するかといいますと、たとえば、数値「5.6」から数値「2.4」を引いたら、表示が、「3.1999999999」などと表示されてしまうのです。
どのようにすれば解決されるのでしょうか。
初心者なので的外れな質問かもしれませんが、ご回答よろしくお願いします。
No.1ベストアンサー
- 回答日時:
表示だけの問題でしたら、最終表示の時に
Dim Disp as String
Dim Disp_data as Double
Disp_Data = 3.1999999999
Disp = Format( Disp_Data, "#,##0.00")
で、Dispを表示させれば直ります。
途中の計算結果も合わせるということであれば、
Dim Disp as String
Dim Disp_data as Double
Disp_Data = 3.1999999999
Disp = Format( Disp_Data, "#,##0.0")
Data_Arry(i) = val(Disp)
とすれば大丈夫なはずです。
これに四捨五入がからむと、ちょっとややこしくなりますが、数値化けでしたらこれで大丈夫なはずです。
うまくモデファイしてお使いください。
No.2
- 回答日時:
2進数表記にした時に循環小数になるような数値があると、単純な足
し算や引き算でも誤差が生じます。「丸め誤差」で検索してみると解
説が見つかりますので参照して下さい。
で、最大でも小数点以下1桁までと決まっているのなら、いったん10
倍して整数として演算してから元に戻すようにすれば回避できます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(データベース) Accessフォームにて指定のフィールドの平均値を小数点第一位で表示できない 2 2022/08/30 17:19
- C言語・C++・C# このプログラミング誰か教えてくれませんか 1 2022/06/02 15:27
- C言語・C++・C# C言語初心者 ポインタについて、お助けください、、 2 2023/03/15 23:50
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- PowerPoint(パワーポイント) ExcelのグラフをPowerPointに貼り付けした際にデータテーブルの小数点以下を削除したいです 2 2023/02/28 19:46
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
- 統計学 統計学の問題です よろしくお願いします 代表値 次の15件のデータについて,以下の問いに答えよ。 結 1 2023/01/31 18:53
- 統計学 統計学の問題です よろしくお願いします 代表値 次の15件のデータについて,以下の問いに答えよ。 結 5 2023/01/31 23:35
- C言語・C++・C# C言語初心者です、、、お助けください 2 2023/03/14 20:08
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
【C#】DataGridViewの最大列数...
-
WordでExcelデータを差込...
-
DTOとEntityの差は何ですか。
-
excel access連携 このテーブル...
-
TCPDFでのHTML出力
-
rsyncでのエラー(sh: rsync: no...
-
ページ切り替え機能
-
htmlについて.sqlの表示
-
エクセルVBAで楽天証券に注...
-
WEBページの保存
-
回線速度が64kbpsだったら、64k...
-
長い1枚ページを無限スクロール...
-
ASPからExcelのデータを読む方法
-
VBA内でのGetPixelを使用した時...
-
「外部データの取り込み」とい...
-
エクセル オートフィルタ プ...
-
ActiveReportのサブレポート機...
-
小数点以下を含む計算でバグが...
-
C言語で地図を描きたい
-
Excelピポットテーブルでの表示...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
wordの差し込み印刷で文字...
-
DTOとEntityの差は何ですか。
-
【C#】DataGridViewの最大列数...
-
excel access連携 このテーブル...
-
WordでExcelデータを差込...
-
ActiveReportのサブレポート機...
-
GridViewからチェックボックス...
-
★お手上げ状態です。助けてくだ...
-
VBA内でのGetPixelを使用した時...
-
表を表示するコントロールについて
-
Windowsのマクロプログラムで、...
-
INIファイルに一括書き込みを行...
-
MSFlexGridのデータを初期化し...
-
C#でのForm間のデータ受け渡し...
-
「外部データの取り込み」とい...
-
C言語で地図を描きたい
-
小数点以下を含む計算でバグが...
-
エクセルVBAで楽天証券に注...
-
CSVのインポート【ASP.NET】
-
画像の読み込み&白黒判別プロ...
おすすめ情報