
No.2ベストアンサー
- 回答日時:
FIXは四捨五入ではなく、切り捨てなので、このようなことになります。
VBに限らず、浮動小数点(「NかけるeのM乗」の形で数を表す方式)は、乗除算の際にある程度の誤差を生じます。
Single型の場合、有効桁数は7桁、Double型で15桁です。
で、今回のケースは、この誤差のせいでFixの内側が1535.99999…になってしまっているのでしょう。
で、これをFix関数で変換すると、.9999の部分が切り捨てられて、1535になってしまうわけです。
解決策ですが、一旦、値を通貨型に変換すると良いです。
Fix(Val(20) * CCur(Val(76.8)))
このように書くと、浮動小数点の掛け算ではなく、通貨型の掛け算として扱われるので、計算の誤差が発生しなくなります。
また、変数を宣言するときに、
dim a as Currency, b as Currency
のようにしておき、
a=val("20"): b=val("76.80")
c=fix(a*b)
のようにしても良いです。
小数点以下に厳密さを要求するときは通貨型を使う!!
っていうふうに覚えておくと、この手のトラブルを未然に防ぐことが出来ると思います。
すごーい丁寧に教えてくださって、ありがとうございますっ!
小数型は、doubleか、singleがほとんどで、
かれんしー(英語、長いので略・・・)は、
いまいち使い方がわかりませんでしたー。
これを機にいっぱい調べられて、しかも教えていただいて、
すごく勉強になりました!
本当にありがとうございます!!
No.3
- 回答日時:
なるほど掛け算でしたか。
推測できなくてすいませんでした。
回答はARCさんのとおりですから、私は、VBの誤差について書かれたマイクロソフトのページを紹介しておきます。
参考URL:http://www.microsoft.com/mscorp/worldwide/japan/ …
こちらこそー(^^;
ほんと、ごめんなさい。++ありがとうございました!
そっか、microsoftに行けばけっこういろんな情報が集まりますよね。
早速見てみました。
さらに詳しく、知識を深められて、よかったです~!!
ありがとうございました。
No.1
- 回答日時:
質問が良くわからないのですが
a = 20
b = 76.80
であれば、
val(a)+val(b)
は、96.8
fixは小数点以下切り捨てなので、96
1535は、どこから出てきた値なのでしょう?
なお、四捨五入は、0.5を加算した値に対して、切り捨てをすれば、OKです。
VB6では、Round関数がありますが、日本での四捨五入とはちょっと違います。
ありがとうございます!+ごめんなさい
急いでかき間違えました。
val(a) * val(b)
の間違えです~(;;
ほんと、ごめんなさい。
私も、0.5を足したり、0.1をたしたり、formatしてみたり、
あと、roundも使ってみたのですが、小数点二桁の切り捨てって、
いつもうまくいかないんです~(vv;
さっそくの回答、ありがとうございますっ。
とってもうれしかったです!
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
雇用保険料の計算式について(E...
-
駐車場賃料の日割り計算について
-
Access 1000以下を切り捨てる関数
-
Excel有効数字の丸め方「0捨1入」
-
端数処理における「小数以下」...
-
50銭以下切り捨て51銭以上切...
-
数字の下二桁を削除したい
-
右ビットシフト
-
負の数の四捨五入の方法
-
今投稿して解決したのですが 更...
-
酒税を増税すべきでは?
-
「消費税は廃止すべきだって」?
-
法人税・消費税修正申告納付の仕訳
-
なぜ消費税10%は×1.1なのですか...
-
上代の算出方法を教えて!
-
金曜日の昼食・・
-
協同組合に支払う会費&賦課金...
-
時給制の業務委託時、請求書の...
-
高速料金を請求する場合の消費...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
駐車場賃料の日割り計算について
-
端数処理における「小数以下」...
-
雇用保険料の計算式について(E...
-
Access 1000以下を切り捨てる関数
-
Excel有効数字の丸め方「0捨1入」
-
50銭以下切り捨て51銭以上切...
-
勤務の稼働時間の計算がわかり...
-
COBOLの計算方法
-
負の数の四捨五入の方法
-
今投稿して解決したのですが 更...
-
ACCESSの切り上げ
-
数字の下二桁を削除したい
-
四捨五入できますか?
-
数字の double 型 を int型...
-
切り捨てて百の位までのがい数...
-
重量の丸め計算が全く分からず...
-
MATLABで小数を整数にするには?
-
excel関数で四捨五入以外の切り...
-
エクセルで小数点第2位以下を...
おすすめ情報