No.1ベストアンサー
- 回答日時:
実数型がその表現範囲において「全ての数をきっちり作れる」わけではありません。
有効桁数というものがあり、その桁数を越えた部分に関しては、保障されません。
> もしかして近似値を使っているのでしょうか?(0.099→0.1のように)
そこまでひどくはありませんが、0.999999999999999999999999999999999999という数値が1.0になってしまったりします。
ありがとうございます。
>実数型がその表現範囲において「全ての数をきっちり作れる」わけではありません。
モヤモヤがスッキリしました。
もし有効桁数が7桁だったら
1.0000003~や0.9999997~を作って1.000000として扱うようなものでしょうか。
No.2
- 回答日時:
同じバイト数なら、実数型は精度というか有効数字が落ちます。
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95% …
例えば、単精度で指数部が2の100乗なら、下の方の桁(2^0,2^1等)は仮数で表現できません。
これとは別の話で、有限の10進法の小数の全てを、有限の2進法の小数で表わすことができないため、誤差が生じます。
例えば、10進法の0.1は二進法では循環小数となるため、有限桁の2進法にするさいに誤差ができます。
詳しい解説をありがとうございます。
>同じバイト数なら、実数型は精度というか有効数字が落ちます。
なるほど。例えば32bitで正の数だと整数型は9桁まで表現できるのに
浮動小数点型は7桁までしか有効でないですね。
>例えば、単精度で指数部が2の100乗なら、下の方の桁(2^0,2^1等)は仮数で表現できません。
こうして具体例をあげてもらえてわかりやすかったです。
>これとは別の話で、有限の10進法の小数の全てを、有限の2進法の小数で表わすことができないため、誤差が生じます。
>例えば、10進法の0.1は二進法では循環小数となるため、有限桁の2進法にするさいに誤差ができます。
固定小数点数では0.1が表現できないのは聞いたことがあるんですが(←情報処理試験の問題だったかも)
浮動小数点数はもしかして表現できるのかな?などと思ってました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
O(n log n)について2
-
100桁の計算ができなくて困って...
-
三菱シーケンサ(Aシリーズ)で...
-
PICマイコンのアセンブラについて
-
C18(PIC18)でのシフト演算など
-
c languageで 簡単な質問があ...
-
2進数 → 10進数変換 模範解答と...
-
2進数の足し算(C言語)
-
2÷3などの余りについて
-
信頼区間の1.96や1.65ってどこ...
-
「Aに対するBの割合」と「Aに対...
-
プログラムでの数字につく”f”の...
-
if と配列の組み合わせ
-
関数f(x)= x³‐3ax²+3ax+2 が極...
-
getcの改行判定
-
二次関数と関数の違いは何ですか?
-
プログラミング初心者です。 Py...
-
int main()、void main()、void...
-
for文の中にswitch文はいれられ...
-
テキストカーソル位置の取得
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
VB.net Double と...
-
c languageで 簡単な質問があ...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
除算を使わずに10で割りたい。
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
floatの有効桁数
-
コンピューターは指数関数をど...
-
時刻の比較
-
計算の丸め誤差の解消について
-
Double型について
-
powf を使わずにべき乗を計算
おすすめ情報