VB6で 1-0.1*10 の計算結果が-5.55111512312578E-17

Visual Basic6.0(SP6)で、1.0-(0.1*10.0)の計算結果が-5.55111512312578E-17　になってしまいます。これはイミディエイトウィンドウで、　?1.0-(0.1*10.0) としても同じ結果になります。
VB6はこういうものなのでしょうか。

No.2 ベストアンサー 回答者： tom11 回答日時： 2006/02/09 10:04

visual basic 6.0では、確かめていませんが、

制限がありますが、
どうしても、0にしたいなら、十進計算をすれば、
0になります。

Module Module1

Sub Main()

Debug.WriteLine(CDec(1) - CDec(0.1) * CDec(10))


End Sub

End Module

結果、0.0

visual basic 6でも、調べると、
10計算ができる様なので、
どうしても、0にしたいなら、
このような方法もあるみたいです。

No.4 回答者： php504 回答日時： 2006/02/09 11:02

VisualBasicに限らず、どのプログラム言語でも浮動小数点演算とはそういうものです。

No.3 回答者： tom11 回答日時： 2006/02/09 10:07

＞10計算ができる様なので

十進計算の誤記です。

No.1 回答者： BLUEPIXY 回答日時： 2006/02/09 03:59

そういうものです。

0.1 が、２進数で無限小数になるため丸め誤差があります。