No.1ベストアンサー
- 回答日時:
おそらく、小数点の扱いで数値の丸めが発生しているためと思われます。
対応策については、こちらが参考になるかと思います。
http://www.atmarkit.co.jp/bbs/phpBB/viewtopic.ph …
この回答へのお礼
お礼日時:2014/03/19 12:32
紹介されたリンク先がドンピシャの内容でした。結果としては、「*0.15」ではなく「*15/100」とすると正しく計算されるようになりました。
No.4
- 回答日時:
こんにちは。
4140000 * 0.15
の結果は、小数部がありますから、浮動小数点丸め誤差が発生し、求める値が、倍精度浮動小数点型(Double)や単精度浮動小数点型(Single)の場合、丸め誤差が発生して、Int関数を使えば、「621000」にはならず、620999 になるわけです。
現象と対処の仕方は、大雑把には以下に書かれています。
http://support.microsoft.com/kb/196652/ja
VBA/VB6では、「浮動小数点誤差」に関しては、いくつかの解決方法があります。
整数変換法
(4140000 * 0.15 * 100) / 100
算術法
Fix(4140000 * 0.15+0.005) '←使用される小数点よりも小さい値を加える(ただし、正の場合)
Int関数は正負で非対称です。Int関数の場合は、SgnとAbs 関数を使い、符号を別にして計算します。
通過型や10進に変換
CDec(4140000 * 0.15)
CCur(4140000 * 0.15) '←通貨型は、15桁の整数部分と4桁の小数部分で桁数が限られている
No.3
- 回答日時:
解決策は数値が収められているフィールドのデータ型を『通貨型』にして下さい
四則計算を行う数値のデータ型は『単精度浮動小数点型』にしないのは常識だそうです
(私も最近知ったのですが、そんな事Accessの入門書に書いてないですよね ^_^; )
原因は私には説明できません
『単精度浮動小数点型』『誤差』でググればいっぱい出てくるでしょう
難しいですね(^_^;)
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- C言語・C++・C# C言語 3 2022/10/04 15:07
- Excel(エクセル) エクセルのSUM関数について 4 2023/04/18 10:37
- C言語・C++・C# このプログラミング誰か教えてくれませんか 1 2022/06/02 15:27
- Excel(エクセル) イミディエイトウインドウでのべき乗の計算 エクセル VBA 4 2022/04/11 15:03
- C言語・C++・C# プログラミングのペーパーテスト 実行結果を表示せよ #include <stdio.h> int h 1 2022/07/09 15:27
- Excel(エクセル) エクセルVBAでセルに表示されているとおりの数値を取得したい(時間の計算結果) 1 2022/03/30 17:52
- C言語・C++・C# このプログラミングの問題を教えてほしいです。 キーボードからデータ数nとn個のデータを入力し、平均値 3 2022/12/19 22:51
- Chrome(クローム) Chromeの描画領域を2分割して異なるスクロール位置を同時に表示させることはできますか 1 2023/03/01 16:53
- Excel(エクセル) エクセルで計算結果が0でないときのみセルを更新したい 4 2022/07/30 11:58
- Excel(エクセル) エクセル・スプレッドシートで、一定数を超えたらゼロから再累計する方法 8 2022/05/28 03:52
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
COBOL 9(02)で定義した変数にマ...
-
浮動小数点
-
中高年の寡婦加算について
-
救難信号SOSの打電について
-
エクセル・Text関数
-
PN9によるBER測定
-
2ビットの全加算器
-
「々」の読み方を教えてください。
-
IEEEの浮動小数点表現
-
1億x1億はいくらでしょうか?
-
10分の1は「10/1 それとも1/10...
-
100以下の自然数のうち、次のよ...
-
50以下は“50”も入るのですか?
-
実績を積むという表現
-
「最大300字程度」
-
5進法を10進法への直し方
-
16進小数0.Cを10進数小数に変換...
-
【機械図面】 最大値・最小値...
-
エクセルで60進法計算の仕方...
-
エクセルでのシグマ計算
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
FP4という浮動小数点演算4桁の...
-
COBOL 9(02)で定義した変数にマ...
-
8ビットのグレイ符号10110110お...
-
アクセスのデータ型。数値型に...
-
PN9によるBER測定
-
浮動小数点
-
FORTRANでfloat(a)
-
Excelで符号の変化をカウントす...
-
基本情報技術者試験の過去問で...
-
中高年の寡婦加算について
-
Accessクエリの整数型と単精度...
-
基本情報の浮動小数点について
-
2ビットの全加算器
-
救難信号SOSの打電について
-
療養食加算
-
情報技術の問題についてです。 ...
-
固定小数点数、浮動小数点数に...
-
エクセル・Text関数
-
浮動小数点数
-
テーブルに小数点以下の値を入...
おすすめ情報