No.2
- 回答日時:
内部は2進数だからです。
つまり、0.5, 0.25, 0.125 などの2で割って行った値とそれを加えた値(0.5+0.25=0.75など)以外は2進数的に「丁度ピッタリ」な数にならないということです。たとえば10進数の0.1は2進数だと0.00011001100110011...という循環小数になります(そのため0.1を100回足す計算をしても10になりません。下の方の桁で四捨五入などをして桁を切り詰めれば"10"と表示することはできますが)。ということで実数計算は常に誤差が出るものだと思って下さい。内部が2進数になっている理由はその方が計算を高速で行えるためです。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・14歳の自分に衝撃の事実を告げてください
- ・架空の映画のネタバレレビュー
- ・「お昼の放送」の思い出
- ・昨日見た夢を教えて下さい
- ・ちょっと先の未来クイズ第4問
- ・【大喜利】【投稿~10/21(月)】買ったばかりの自転車を分解してひと言
- ・メモのコツを教えてください!
- ・CDの保有枚数を教えてください
- ・ホテルを選ぶとき、これだけは譲れない条件TOP3は?
- ・家・車以外で、人生で一番奮発した買い物
- ・人生最悪の忘れ物
- ・【コナン30周年】嘘でしょ!?と思った○○周年を教えて【ハルヒ20周年】
- ・ハマっている「お菓子」を教えて!
- ・最近、いつ泣きましたか?
- ・夏が終わったと感じる瞬間って、どんな時?
- ・10秒目をつむったら…
- ・人生のプチ美学を教えてください!!
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・都道府県穴埋めゲーム
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
O(n log n)について2
-
”/”を使わずに割り算したいんで...
-
c languageで 簡単な質問があ...
-
有効数字について 以前質問をし...
-
16進数 加算 減算 C言語
-
大きすぎる数値になるとE+にな...
-
距離から緯度経度を求める方法
-
VisualBasic と Fortran の計算...
-
コンピューターは指数関数をど...
-
VB6.0での小数点の扱いについて
-
除算を使わずに10で割りたい。
-
ExcelのINT関数の計算結果がお...
-
VBA "double"から0.1を引くと・...
-
VBAのINT関数について
-
VB.net Double と...
-
fortranでx=1としても0.9..が入る
-
ExcelでPC(パソコン)によって...
-
EXCELの関数"STDEV(標準偏差)"...
-
Double型について
-
printf( "%d", i % 10 );で?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
c languageで 簡単な質問があ...
-
ExcelでPC(パソコン)によって...
-
16進数 加算 減算 C言語
-
ExcelのINT関数の計算結果がお...
-
EXCELの関数"STDEV(標準偏差)"...
-
三菱シーケンサ(Aシリーズ)で...
-
VB.net Double と...
-
除算を使わずに10で割りたい。
-
有効数字について 以前質問をし...
-
BCD・HEX・BINについて
-
C言語でセルオートマトンを作成...
-
VB6.0での小数点の扱いについて
-
VBAでミリ秒まで出力する方法
-
2進数の足し算(C言語)
-
floatの有効桁数
-
”/”を使わずに割り算したいんで...
-
計算の丸め誤差の解消について
-
VB6のFIX関数での誤差について
-
三角比の俯角の計算
おすすめ情報