floatの有効桁数は6桁なのでしょうか?7桁なのでしょうか?
wiki(https://ja.wikipedia.org/wiki/%E5%8D%98%E7%B2%BE …をみると「指数部が全て 0 でない限り、この形式では「暗黙の整数ビット」を 1 とみなす。従って小数部の23ビットだけがメモリフォーマット上に出現する。従って十進に換算したとき表現できる桁数は log10(224) ≈ 7.225 桁となる。」という記述があります。
この文章でわからないのは、「指数部が全て 0 でない限り」の部分です。
これは、指数部が全て 0 であれば、log10(2^23) ≈ 6.923 で悠桁数が6桁になることも暗に示しているのでしょうか?
また、指数部が0になるときの数字を具体的にイメージができないのですが、どういった数字(10進数)なのでしょうか?
もしご存知の方がいましたら教えていただけると幸いです。
以上、よろしくお願い致します。
A 回答 (3件)
- 最新から表示
- 回答順に表示
No.3
- 回答日時:
指数部がゼロというのは、正規化数の範囲では、数値のゼロを表現します。
そのため、仮数の整数部もゼロ、小数部もゼロです。参照されているページの「指数部の符号化方式」の所を見てください。
No.1
- 回答日時:
そのWikipediaの記事の「指数部の符号化方式」もよく読んでください。
e=0のときは、「非正規化数」として、 「暗黙の整数ビット1」ではなく「暗黙の整数ビット0」として、仮数を表現します。
「大きい位の0は有効数字に入れない」というルールがありますので、e=0のときは、仮数は最大で23桁〜最小1桁しかありません。
十進6桁どころか、1桁未満の精度にもなります。
1.0 * 2^0 ÷ 2 = 1.0 * 2^-1
1.0 * 2^-1 ÷ 2 = 1.0 * 2^-2
... と、
1.0 * 2^-126
までは、指数を調整して、仮数部 は(暗黙の1を込みで) 24ビットの精度を保ってきます。
これ以上絶対値を小さくしようとすると、指数が表現できなくなります。
そこで指数はそのまま仮数の「暗黙の0」をやめます
1.0 * 2^-126 ÷ 2 = 0.1 * 2^-126
このときに、暗黙の1はやめて0とする、ということを表現するために、 「指数」は2^-126のまま、指数部の符号を 「0」 としまます。
ご回答ありがとうございます。
>そこで指数はそのまま仮数の「暗黙の0」をやめます
という記述はあっていますか??
「そこで指数はそのまま仮数の「暗黙の1」をやめます」
ではないかと思うのですが、どうでしょう??
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ExcelでPC(パソコン)によって...
-
計算の丸め誤差の解消について
-
c languageで 簡単な質問があ...
-
三菱シーケンサ(Aシリーズ)で...
-
教えて小数点の比較!(C言語)
-
演算について
-
除算を使わずに10で割りたい。
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
計算機誤差
-
有効数字について 以前質問をし...
-
0.1の10000回の累積
-
”/”を使わずに割り算したいんで...
-
計算精度(限りなくゼロに近く)
-
ラズベリーパイ>MM-TXS03で温度...
-
スーパーコンピュータの処理速...
-
java 実数の割り算
-
Log関数に関する質問
-
最大50桁の実数の和・差・積を...
-
加算と減算で乗算と除算を表現...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
VB.net Double と...
-
c languageで 簡単な質問があ...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
除算を使わずに10で割りたい。
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
floatの有効桁数
-
コンピューターは指数関数をど...
-
時刻の比較
-
計算の丸め誤差の解消について
-
Double型について
-
powf を使わずにべき乗を計算
おすすめ情報