float型の精度（有効桁と実数）について

締切済

質問者：dabuaku
質問日時：2011/10/14 00:53
回答数：2件

float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。

IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。
ここで言ってる７桁とは、小数点以下７桁の実数が有効桁と言っているのでしょうか？

お詳しい人、無知な自分に教えてください。

通報する

この質問への回答は締め切られました。

質問の本文を隠す

回答 (2件)

最新から表示
回答順に表示

No.2

回答者： jjon-com
回答日時：2011/10/14 08:33

０．００２４５６８ × 10の0乗

０．２４５６８ × 10の-2乗

ですから，この数値の10進数での有効桁長（精度）は５桁です。

０．００００２４５６８
０．０００２４５６８
０．００２４５６８
０．０２４５６８
０．２４５６８
２．４５６８
２４．５６８
２４５．６８
２４５６．８
２４５６８

上記はすべて10進数での有効数字は５桁です。