アプリでもっと教えて！goo

dポイントプレゼントキャンペーン実施中！

float型の精度（有効桁と実数）について

締切済

質問者：dabuaku
質問日時：2011/10/14 00:53
回答数：2件

float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。

IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。
ここで言ってる７桁とは、小数点以下７桁の実数が有効桁と言っているのでしょうか？

お詳しい人、無知な自分に教えてください。

この質問への回答は締め切られました。

質問の本文を隠す

回答 (2件)

最新から表示
回答順に表示

No.2

回答者： jjon-com
回答日時：2011/10/14 08:33

０．００２４５６８ × 10の0乗

０．２４５６８ × 10の-2乗

ですから，この数値の10進数での有効桁長（精度）は５桁です。

０．００００２４５６８
０．０００２４５６８
０．００２４５６８
０．０２４５６８
０．２４５６８
２．４５６８
２４．５６８
２４５．６８
２４５６．８
２４５６８

上記はすべて10進数での有効数字は５桁です。

- 0
- 件

No.1

回答者： Tacosan
回答日時：2011/10/14 01:07

「有効数字」について調べてみるといいかも.

ああ, あなたの使った処理系で, float が binary32 になってるかどうかは知らないよ.

- 0
- 件

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう！

質問する（無料）

似たような質問が見つかりました

C言語・C++・C# C言語についてコマンドラインで >変数 12.00 （char型）と、小数点付きの値を共用体に渡 1 2022/04/22 16:56
高校高校化学、気体、温度の有効数字 3 2023/04/02 11:39
高校有効数字計算確定した値を含む 2 2023/01/18 06:03
C言語・C++・C# C言語: ポインタ 5 2022/06/01 08:33
化学有効数字の取り扱いについて高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
PDF C#でfloatを整数部、小数部とも桁数固定で文字表示したい 2 2022/07/28 09:37
その他(教育・科学・学問) なぜ、0.50+0.50=1.0 になるのですか？ 0.50も1.0も有効数字2桁ですので、計算結果 9 2022/11/17 18:12
高校高校化学有効数字計算 4 2023/02/26 09:09
化学有効数字の問題にです 4 2022/08/02 22:33
教育・学術・研究実験の測定結果について。実験で、345.8と343.3という値が出てきたとして、その平均をとるとき 1 2022/10/17 20:33

関連するカテゴリからQ&Aを探す

ページトップ

おすすめ情報

質問する（無料）

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

おすすめ情報