
No.2ベストアンサー
- 回答日時:
FIXは四捨五入ではなく、切り捨てなので、このようなことになります。
VBに限らず、浮動小数点(「NかけるeのM乗」の形で数を表す方式)は、乗除算の際にある程度の誤差を生じます。
Single型の場合、有効桁数は7桁、Double型で15桁です。
で、今回のケースは、この誤差のせいでFixの内側が1535.99999…になってしまっているのでしょう。
で、これをFix関数で変換すると、.9999の部分が切り捨てられて、1535になってしまうわけです。
解決策ですが、一旦、値を通貨型に変換すると良いです。
Fix(Val(20) * CCur(Val(76.8)))
このように書くと、浮動小数点の掛け算ではなく、通貨型の掛け算として扱われるので、計算の誤差が発生しなくなります。
また、変数を宣言するときに、
dim a as Currency, b as Currency
のようにしておき、
a=val("20"): b=val("76.80")
c=fix(a*b)
のようにしても良いです。
小数点以下に厳密さを要求するときは通貨型を使う!!
っていうふうに覚えておくと、この手のトラブルを未然に防ぐことが出来ると思います。
すごーい丁寧に教えてくださって、ありがとうございますっ!
小数型は、doubleか、singleがほとんどで、
かれんしー(英語、長いので略・・・)は、
いまいち使い方がわかりませんでしたー。
これを機にいっぱい調べられて、しかも教えていただいて、
すごく勉強になりました!
本当にありがとうございます!!
No.3
- 回答日時:
なるほど掛け算でしたか。
推測できなくてすいませんでした。
回答はARCさんのとおりですから、私は、VBの誤差について書かれたマイクロソフトのページを紹介しておきます。
参考URL:http://www.microsoft.com/mscorp/worldwide/japan/ …
こちらこそー(^^;
ほんと、ごめんなさい。++ありがとうございました!
そっか、microsoftに行けばけっこういろんな情報が集まりますよね。
早速見てみました。
さらに詳しく、知識を深められて、よかったです~!!
ありがとうございました。
No.1
- 回答日時:
質問が良くわからないのですが
a = 20
b = 76.80
であれば、
val(a)+val(b)
は、96.8
fixは小数点以下切り捨てなので、96
1535は、どこから出てきた値なのでしょう?
なお、四捨五入は、0.5を加算した値に対して、切り捨てをすれば、OKです。
VB6では、Round関数がありますが、日本での四捨五入とはちょっと違います。
ありがとうございます!+ごめんなさい
急いでかき間違えました。
val(a) * val(b)
の間違えです~(;;
ほんと、ごめんなさい。
私も、0.5を足したり、0.1をたしたり、formatしてみたり、
あと、roundも使ってみたのですが、小数点二桁の切り捨てって、
いつもうまくいかないんです~(vv;
さっそくの回答、ありがとうございますっ。
とってもうれしかったです!
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- 数学 昔の日本人の身長表記の尺や海外の身長表記のフィートはcmに直すと小数点がつきますが、その小数点はフィ 2 2022/04/12 21:26
- 統計学 教えてください! あるくじ引きには5枚に1枚の割合でアタリが入っていると宣伝しているが、実際には20 7 2023/05/29 09:10
- 環境学・エコロジー メタン 100 g を使って、コンバインドサイクル発電を行ったところ、34キロワット (34,000 2 2023/01/22 14:00
- 数学 無理数の数字の組み合わせ。無限の意味について 5 2022/05/28 22:53
- 数学 数学の答えと解き方を教えてください。 問:ある(人数の非常に多い)集団から無作為に6名を選んで身長を 4 2022/12/14 10:06
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- 美術・アート 【Photoshop】設定したサイズが正しく反映されない事象の解決方法 1 2022/08/31 22:53
- 数学 参考文献の探し方(数学) 1 2022/07/19 01:09
- Excel(エクセル) Excel上で分からないことがあります。 他のシートからコピー→貼り付けしたのですが図のようになって 4 2023/05/29 19:16
関連するカテゴリからQ&Aを探す
今、見られている記事はコレ!
-
釣りと密漁の違いは?知らなかったでは済まされない?事前にできることは?
知らなかったでは済まされないのが法律の世界であるが、全てを知ってから何かをするには少々手間がかかるし、最悪始めることすらできずに終わってしまうこともあり得る。教えてgooでも「釣りと密漁の境目はどこです...
-
カスハラとクレームの違いは?カスハラの法的責任は?企業がとるべき対応は?
東京都が、客からの迷惑行為などを称した「カスタマーハラスメント」、いわゆる「カスハラ」の防止を目的とした条例を、全国で初めて成立させた。条例に罰則はなく、2025年4月1日から施行される。 この動きは自治体...
-
なぜ批判コメントをするの?その心理と向き合い方をカウンセラーにきいた!
今や生活に必要不可欠となったインターネット。手軽に情報を得られるだけでなく、ネットを介したコミュニケーションも一般的となった。それと同時に顕在化しているのが、他者に対する辛らつな意見だ。ネットニュース...
-
大麻の使用罪がなかった理由や法改正での変更点、他国との違いを弁護士が解説
ドイツで2024年4月に大麻が合法化され、その2ヶ月後にサッカーEURO2024が行われた。その際、ドイツ警察は大会運営における治安維持の一つの方針として「アルコールを飲んでいるグループと、大麻を吸っているグループ...
-
ピンとくる人とこない人の違いは?直感を鍛える方法を心理コンサルタントに聞いた!
根拠はないがなんとなくそう感じる……。そんな「直感がした」という経験がある人は少なくないだろう。ただ直感は目には見えず、具体的な説明が難しいこともあるため、その正体は理解しにくい。「教えて!goo」にも「...
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
VB 四捨五入の結果が Windows9...
-
5%割引の際の、小数点以下の扱...
-
切捨てする関数はありますか?
-
Excelの関数について
-
雇用保険料の計算式について(E...
-
「未満と以上」使う範囲。
-
駐車場賃料の日割り計算について
-
数字の下二桁を削除したい
-
Access 1000以下を切り捨てる関数
-
BCの長さを四捨五入して小数点...
-
切り捨てて百の位までのがい数...
-
ADOで算術型のRound関数を使いたい
-
今投稿して解決したのですが 更...
-
なぜ消費税10%は×1.1なのですか...
-
1個あたりの製産時間を算出した...
-
時給制の業務委託時、請求書の...
-
電卓で指数計算できますか?
-
残業代の消費税について
-
消費税の勘定科目は?
-
みなさん、ガソリン幾らですか?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
5%割引の際の、小数点以下の扱...
-
駐車場賃料の日割り計算について
-
今投稿して解決したのですが 更...
-
Access 1000以下を切り捨てる関数
-
切り捨てて百の位までのがい数...
-
端数処理における「小数以下」...
-
勤務の稼働時間の計算がわかり...
-
Excel有効数字の丸め方「0捨1入」
-
雇用保険料の計算式について(E...
-
負の数の四捨五入の方法
-
COBOLの計算方法
-
50銭以下切り捨て51銭以上切...
-
数字の下二桁を削除したい
-
次の計算式を使って、 利益率12...
-
エクセルでの小数点以下切り捨...
-
重量の丸め計算が全く分からず...
-
ADOで算術型のRound関数を使いたい
-
excel関数で四捨五入以外の切り...
-
ACCESSの切り上げ
-
VBの小数点周り
おすすめ情報