No.1ベストアンサー
- 回答日時:
実数型がその表現範囲において「全ての数をきっちり作れる」わけではありません。
有効桁数というものがあり、その桁数を越えた部分に関しては、保障されません。
> もしかして近似値を使っているのでしょうか?(0.099→0.1のように)
そこまでひどくはありませんが、0.999999999999999999999999999999999999という数値が1.0になってしまったりします。
ありがとうございます。
>実数型がその表現範囲において「全ての数をきっちり作れる」わけではありません。
モヤモヤがスッキリしました。
もし有効桁数が7桁だったら
1.0000003~や0.9999997~を作って1.000000として扱うようなものでしょうか。
No.2
- 回答日時:
同じバイト数なら、実数型は精度というか有効数字が落ちます。
http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95% …
例えば、単精度で指数部が2の100乗なら、下の方の桁(2^0,2^1等)は仮数で表現できません。
これとは別の話で、有限の10進法の小数の全てを、有限の2進法の小数で表わすことができないため、誤差が生じます。
例えば、10進法の0.1は二進法では循環小数となるため、有限桁の2進法にするさいに誤差ができます。
詳しい解説をありがとうございます。
>同じバイト数なら、実数型は精度というか有効数字が落ちます。
なるほど。例えば32bitで正の数だと整数型は9桁まで表現できるのに
浮動小数点型は7桁までしか有効でないですね。
>例えば、単精度で指数部が2の100乗なら、下の方の桁(2^0,2^1等)は仮数で表現できません。
こうして具体例をあげてもらえてわかりやすかったです。
>これとは別の話で、有限の10進法の小数の全てを、有限の2進法の小数で表わすことができないため、誤差が生じます。
>例えば、10進法の0.1は二進法では循環小数となるため、有限桁の2進法にするさいに誤差ができます。
固定小数点数では0.1が表現できないのは聞いたことがあるんですが(←情報処理試験の問題だったかも)
浮動小数点数はもしかして表現できるのかな?などと思ってました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/03/04 09:54
- 数学 『数は実在するのか』 6 2023/06/04 15:15
- 数学 この証明は高校数学の範囲でできますか?数1 数と式 5 2023/04/06 09:24
- 数学 【 数I 二次方程式の実数解 】 問題 ※写真の(2) 解答 いずれか一方のみが実数解を持つため に 1 2022/06/25 17:36
- 小学校 算数の問題で悩んでいます。 2つの数A,Bを四捨五入して整数の概数にすると、順に25と3になりました 5 2023/08/21 15:05
- 数学 確率の最大値を求める方法について 確率 Pn<P(n+1)⇄Pn/P(n+1)<1のときと Pn>P 2 2022/07/29 20:15
- バッテリー・充電器・電池 蓄電池の型番違いについて 5 2023/04/14 08:08
- 数学 高2 数2 3 2022/06/20 21:39
- 数学 数学の証明問題について質問です。 今日私大入試があったのですが、AとBの共通部分となるxの範囲を求め 1 2023/02/10 15:27
- Excel(エクセル) エクセルの数式について教えてください。 2 2023/02/18 11:30
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
c languageで 簡単な質問があ...
-
VB.net Double と...
-
有効数字について 以前質問をし...
-
16進数 加算 減算 C言語
-
10次の多項式を求めるプログラ...
-
z80について
-
VB6.0での小数点の扱いについて
-
コンピューターは指数関数をど...
-
EXCELの関数"STDEV(標準偏差)"...
-
2進数の0.2?
-
浮動小数点演算を固定小数点演...
-
ExcelのINT関数の計算結果がお...
-
floatの有効桁数
-
Pythonについてなのですが、小...
-
O(n log n)について2
-
VBAでの割り算の余りの求め方
-
ラズベリーパイ>MM-TXS03で温度...
-
浮動小数演算は実行環境の変化...
-
Double型について
-
double型からfloat型への型変換...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
ExcelでPC(パソコン)によって...
-
ExcelのINT関数の計算結果がお...
-
16進数 加算 減算 C言語
-
VB.net Double と...
-
floatの有効桁数
-
三菱シーケンサ(Aシリーズ)で...
-
c languageで 簡単な質問があ...
-
除算を使わずに10で割りたい。
-
VBAでミリ秒まで出力する方法
-
VBAでの割り算の余りの求め方
-
VB6.0での小数点の扱いについて
-
VB6のFIX関数での誤差について
-
有効数字について 以前質問をし...
-
100桁の計算ができなくて困って...
-
浮動小数演算は実行環境の変化...
-
EXCELの関数"STDEV(標準偏差)"...
-
BCD・HEX・BINについて
-
コンピューターは指数関数をど...
-
乱数 なぜ剰余を使うのか
おすすめ情報