No.1ベストアンサー
- 回答日時:
私も聞いたことはあったのですが、よく覚えていなかったので、調べてみました。
丸め誤差というのは、有限ビットで演算を行った場合に桁数の限界まで計算した結果と実際の結果との誤差のことをあらわします。
例を挙げて説明しましょう。
10÷3を計算していくと
0.3333333333333333333333333・・・
という風に延々続きます。
典型的にはコンピュータでは、計算結果を小数点以下16桁保存するか、2進数で最初の53個を保存するそうです。 仮に小数点以下16桁しか保存しないのであれば、計算結果は
0.3333333333333333
になります。
しかし、本来の計算結果はまだまだ延々続くわけで、その誤差の
0.0000000000000000333333333・・・
が計算結果には反映されていません。
これが、丸め誤差です。
数値を丸めるというのは、要するに記憶しきれない(もしくはしない)細かい数値を切り捨てることを言います。
誤差の許されない正確な計算を行う必要があるときに、問題になります。
しかし、これはコンピュータの問題というよりは、10進数で表しきれない計算結果を限られた桁で表現しようとするとどうしても起こってしまう誤差だそうです。
下には丸め誤差について詳しく説明したサイトのURLをご紹介しておきます。
かなり専門的なようなので、興味があったらみてみてください。(かなり難しい・・・)
参考URL:http://support.wolfram.com/mathematica/mathemati …
この回答へのお礼
お礼日時:2002/03/09 15:11
LT-sheepさん、ありがとうございました。
参考HP見ましたが、・・・・(-_-;)でした。
ただ、丸めの意味がわかりすっきりしました。
また、わからないことがあれば教えてくださいね(^o^)丿
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Access(アクセス) Accessテーブルの結合で別々のテーブルのフィールドを組み合わせて値を出す方法について 2 2022/07/20 19:43
- Ruby 初心者プログラミング 3 2022/10/12 11:31
- その他(プログラミング・Web制作) Accessの代わりのノンプログラムデータベース作成 4 2022/10/21 09:26
- XML MSFormsとは何ですか? 2 2022/05/02 09:38
- HTML・CSS WEBサイトの構築。表示データとWEBデザインを分離する考え方を専門用語・業界用語では何と言うか? 8 2022/09/27 09:16
- 統計学 t値の計算方法 1 2022/11/29 18:37
- 統計学 t検定について教えてください 2 2023/02/23 16:35
- Excel(エクセル) [Excel2016] 相関表等の自動作成 2 2022/08/01 20:34
- C言語・C++・C# C言語初心者 ポインタについて、お助けください、、 2 2023/03/15 23:50
- 数学 【 数I 分散 】 3 2023/02/26 21:55
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
【有効数字について】 授業で、...
-
1秒は何ミリ秒とか、単位変換の...
-
ビットとかキロビットとかちん...
-
12万の5%はいくらですか?
-
もしコンピューターが2進数か...
-
VBAで時間の型と計算方法教えて...
-
有効数字計算 確定した値を含む
-
8進数 8進数の47+32の答えを 8...
-
【エクセル】四捨五入・二捨三...
-
有効数字
-
EXCELでの16進数取り出し、上...
-
携帯電話の略語であるMBって英...
-
EXCEL16進⇒浮動小数変換したい
-
KBとMB
-
実行計画の「COST」と「BYTE」...
-
文字の容量(サイズ)についての...
-
文字化けはなぜ日本語が入って...
-
エクセルVBAで xlOn xlOff の切替
-
GB と Gbの違いの意味
-
viで一括で行をつなげたい
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
【有効数字について】 授業で、...
-
8進数 8進数の47+32の答えを 8...
-
もしコンピューターが2進数か...
-
16bitはダイナミックレンジが97...
-
エクセル2010で2進数の計算をす...
-
かけ算(わり算)と足し算(引き算...
-
1TBHDDに音楽ファイルは何ア...
-
VBAで時間の型と計算方法教えて...
-
有効数字は最後答えを出すとき...
-
1秒は何ミリ秒とか、単位変換の...
-
なぜ1と0か?
-
【エクセル】四捨五入・二捨三...
-
Excelの累乗について式とVBAで...
-
有効数字の計算
-
符号付の整数8ビット…
-
進数の計算について質問です。 ...
-
有効数字について
-
有効数字
-
フィルムスキャン 4800dpiでデ...
-
エクセルで計算式を作りたい
おすすめ情報