ExcelのINT関数の計算結果がおかしい。

ExcelのINT関数というよりも表計算ソフトのINT関数で
1, INT((4.645*100-464)*10)の結果は4
2, INT((464.5-464)*10)の結果は5
3, INT((4.745*100-464)*10)の結果は5
4, INT((474.5-464)*10)の結果は5
になってしまいます、これはWIn版Excel2000,2002,2007,Mac版2004
openoffice.org 2.2　google のスプレッドシート ExcelのVBAで同じ結果になりました。VB2005では1も結果が5になります。
ここで検索したところでは表計算ソフトは循環小数になった場合14桁で四捨五入するというようなことが書かれていますが、この場合4.645*10と464.5の違いだけなのでそれも当てはまらないように思えるのですが、また1と3で違いが内容に思えるのですが、どうしてこのようなことが起こるのでしょうか。教えてください。

No.2 回答者： Wendy02 回答日時： 2007/12/15 20:48

こんばんは。

>表計算ソフトは循環小数になった場合14桁で四捨五入する
確か、Excelの数値は、通常、倍精度型ですから、15桁目までを有効とするのだったと思いますが……。4.645*100-464　では、16桁目が0になっているようです。

ひとことで言えば、浮動小数点丸め誤差の問題です。

この問題は、表計算ソフトというよりも、Microsoft Excel自身の問題で、MSは、他の会社やかつては自社も持っていた補正機能を、Excelには取り入れなかったということです。ややこしいのは、Excelには、他にも、時間などの10進以外の丸めが存在しているので、小数点を扱う場合は、慎重にならざるをえません。私は、MSは、なぜ、補正をしないのか、その理由が分かりません。MSサポートでは、IEEE の浮動小数点フォーマットを理由としていますが、ここらには、何か、会社間の問題が存在しているのかもしれません。

ただ、VB2005は、.Net で、有効桁数が違いますから、それと比較してもどうしようもありません。

Excel VBAなら、あまり、リテラル値で以下のように書くことはしませんが、プログラミングをする人なら、常識的に小数点計算のところで、bのようにCurrency 型にして書きます。小数点を生のまま入れることはしません。

a = Int((4.645 * 100 - 464) * 10)　
b = Int((4.645@ * 100 - 464) * 10)

で、b は、5になります。

なお、3の数式は、
=INT((4.745*100-474)*10)
だと思います。

#1で述べられている日経の芳坂氏の説明は、私には、針小棒大すぎて、正直言って分かりにくいのと、私が読んだときには、どうも記述に、間違いがあるようで、読み切っても煙にまかれたような気がしました。

これは、現在は、Tex などで知られている奥村春彦先生が、以下で触れられています。
http://oku.edu.mie-u.ac.jp/~okumura/software/exc …

いずれにしても、ビット計算の話なので、本格的には、プログラミングを学んでいく中やExcelの計算の中で、小数点を扱う場合は、十分に気をつけて、いくつかある補正操作をするしかないかと思います。

今回の場合は、数式の中で小数点の計算をすると問題が見えにくくなってしまいます。
そのために、Excelでは、一応、表示どおりの計算をするという補正オプションは持っているのですが、それを使う人はいませんね。

そこで、私は、Fixed 関数の「小数点固定法(一旦、文字列に換えて、そして切り捨てる）」を用いて、解決しています。これは、主にVBAの技術で、ワークシートでは、Round関数などを使われているようですが、それでも可能だと思います。

他にも、「整数変換法（有効な桁数を整数にして計算する）」があります。もちろん、VBAでは、Currency型で扱うというのは言うまでもありません。

1.と3. の違いは、最近接偶数丸めが、発生しているからだと思います。

例：
1.
=INT((FIXED(4.645*100,1)-464)*10)

なお、これらで解決しない例として、10進以外の時間計算に特殊な丸め誤差が出てきます。

No.1 回答者： maron--5 回答日時： 2007/12/15 17:13

◆「演算誤差」によるものではないでしょうか？

★1,の式のセルを指定して数式バーの、4.645*100-464　の部分を反し指定して、Ｆ９　を押してください
★0.499999999999943　が表示されます、これでは1,式の結果は「4」になります

★下のＵＲＬ「◆“達人”芳坂和行氏に学ぶ、エクセル(Excel)「演算誤差」対策講座」が参考になると思います

参考URL：http://pc.nikkeibp.co.jp/pc21/special/gosa/index …

この回答へのお礼

大変すばやい対応で、良く解りました。
ありがとうございました。

お礼日時：2007/12/15 17:52