
No.2ベストアンサー
- 回答日時:
FIXは四捨五入ではなく、切り捨てなので、このようなことになります。
VBに限らず、浮動小数点(「NかけるeのM乗」の形で数を表す方式)は、乗除算の際にある程度の誤差を生じます。
Single型の場合、有効桁数は7桁、Double型で15桁です。
で、今回のケースは、この誤差のせいでFixの内側が1535.99999…になってしまっているのでしょう。
で、これをFix関数で変換すると、.9999の部分が切り捨てられて、1535になってしまうわけです。
解決策ですが、一旦、値を通貨型に変換すると良いです。
Fix(Val(20) * CCur(Val(76.8)))
このように書くと、浮動小数点の掛け算ではなく、通貨型の掛け算として扱われるので、計算の誤差が発生しなくなります。
また、変数を宣言するときに、
dim a as Currency, b as Currency
のようにしておき、
a=val("20"): b=val("76.80")
c=fix(a*b)
のようにしても良いです。
小数点以下に厳密さを要求するときは通貨型を使う!!
っていうふうに覚えておくと、この手のトラブルを未然に防ぐことが出来ると思います。
すごーい丁寧に教えてくださって、ありがとうございますっ!
小数型は、doubleか、singleがほとんどで、
かれんしー(英語、長いので略・・・)は、
いまいち使い方がわかりませんでしたー。
これを機にいっぱい調べられて、しかも教えていただいて、
すごく勉強になりました!
本当にありがとうございます!!
No.3
- 回答日時:
なるほど掛け算でしたか。
推測できなくてすいませんでした。
回答はARCさんのとおりですから、私は、VBの誤差について書かれたマイクロソフトのページを紹介しておきます。
参考URL:http://www.microsoft.com/mscorp/worldwide/japan/ …
こちらこそー(^^;
ほんと、ごめんなさい。++ありがとうございました!
そっか、microsoftに行けばけっこういろんな情報が集まりますよね。
早速見てみました。
さらに詳しく、知識を深められて、よかったです~!!
ありがとうございました。
No.1
- 回答日時:
質問が良くわからないのですが
a = 20
b = 76.80
であれば、
val(a)+val(b)
は、96.8
fixは小数点以下切り捨てなので、96
1535は、どこから出てきた値なのでしょう?
なお、四捨五入は、0.5を加算した値に対して、切り捨てをすれば、OKです。
VB6では、Round関数がありますが、日本での四捨五入とはちょっと違います。
ありがとうございます!+ごめんなさい
急いでかき間違えました。
val(a) * val(b)
の間違えです~(;;
ほんと、ごめんなさい。
私も、0.5を足したり、0.1をたしたり、formatしてみたり、
あと、roundも使ってみたのですが、小数点二桁の切り捨てって、
いつもうまくいかないんです~(vv;
さっそくの回答、ありがとうございますっ。
とってもうれしかったです!
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 統計学 教えてください! あるくじ引きには5枚に1枚の割合でアタリが入っていると宣伝しているが、実際には20 7 2023/05/29 09:10
- 環境学・エコロジー メタン 100 g を使って、コンバインドサイクル発電を行ったところ、34キロワット (34,000 2 2023/01/22 14:00
- 数学 無理数の数字の組み合わせ。無限の意味について 5 2022/05/28 22:53
- 数学 数学の答えと解き方を教えてください。 問:ある(人数の非常に多い)集団から無作為に6名を選んで身長を 4 2022/12/14 10:06
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 美術・アート 【Photoshop】設定したサイズが正しく反映されない事象の解決方法 1 2022/08/31 22:53
- 数学 参考文献の探し方(数学) 1 2022/07/19 01:09
- Excel(エクセル) Excel上で分からないことがあります。 他のシートからコピー→貼り付けしたのですが図のようになって 4 2023/05/29 19:16
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
Excel有効数字の丸め方「0捨1入」
-
5%割引の際の、小数点以下の扱...
-
勤務の稼働時間の計算がわかり...
-
Access 1000以下を切り捨てる関数
-
VBの小数点周り
-
50銭以下切り捨て51銭以上切...
-
数字の下二桁を削除したい
-
駐車場賃料の日割り計算について
-
COBOLの計算方法
-
端数処理における「小数以下」...
-
時給制の業務委託時、請求書の...
-
高速料金を請求する場合の消費...
-
法人税・消費税修正申告納付の仕訳
-
なぜ消費税10%は×1.1なのですか...
-
何が矛盾しているのかわからない
-
「消費税は別途」の解釈
-
消費税の勘定科目は?
-
生産の「時間当たりの出来高」...
-
電卓で指数計算できますか?
-
国が実施する入札が税抜きなの...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
駐車場賃料の日割り計算について
-
今投稿して解決したのですが 更...
-
Access 1000以下を切り捨てる関数
-
切り捨てて百の位までのがい数...
-
端数処理における「小数以下」...
-
勤務の稼働時間の計算がわかり...
-
Excel有効数字の丸め方「0捨1入」
-
雇用保険料の計算式について(E...
-
負の数の四捨五入の方法
-
COBOLの計算方法
-
50銭以下切り捨て51銭以上切...
-
数字の下二桁を削除したい
-
次の計算式を使って、 利益率12...
-
エクセルでの小数点以下切り捨...
-
重量の丸め計算が全く分からず...
-
ADOで算術型のRound関数を使いたい
-
excel関数で四捨五入以外の切り...
-
ACCESSの切り上げ
-
VBの小数点周り
おすすめ情報