No.3ベストアンサー
- 回答日時:
ネット上には色々な情報について詳しい解説や、分り易い説明のサイトが数多くあります。
質問された内容については、例えば次のようにサーチ条件を工夫してサーチして下さい。
倍精度浮動小数点 定義 精度 計算誤差
倍精度浮動小数点 解説 計算誤差
倍精度浮動小数点 解説 計算誤差 わかりやすい
==>
(1)
日経PC21 / 演算誤差の正体 - IEEE 754 浮動小数点数の仕組み
http://pc.nikkeibp.co.jp/pc21/special/gosa/eg4.s …
==>
(2)
http://pc.nikkeibp.co.jp/pc21/special/gosa/
◆“達人”芳坂和行氏に学ぶ、エクセル「演算誤差」対策講座
(1)の中にexcelの通貨型:currencyの計算のやり方、倍精度浮動小数点の表し方、計算精度や計算誤差などが分り易く説明されています。
"単精度と倍精度では表現できる桁数や大きさが違うわけですね"
と言う言葉で(1)の中をサーチしてみて下さい。
10進17桁相当の桁数の精度があります。
地球表面の広さは、一周4万KMをcm単位で表示しても次の通りまだ7桁程余裕があります。
4*10**4(km)*1000(m)*100(cm)=4*10**9
さすがに地球表面積を平方cm単位で表そうとすると1.6*10**19(cm**2) のオーダーとなるので少し精度不足です。
平方m単位では 1.6*10**15(m**2) ですから精度的には十分です。
あなたの考えられている計算数値の一番厳しい条件の幾つかを例題として用意して、excelでcurrencyの場合、通常の場合(特に指定しなければ倍精度で計算される筈)を用意して試してみてください。
その場合、結果が分り易い数を使って下さい。
例えば、100000000999など
なお小数点付きの数では10進形式から計算機内部の倍精度形式に変換する時に変換誤差が出ますが、多分10進12桁程度の精度で十分な通常の場合は問題になりません。
No.2
- 回答日時:
掛け算だけでしたらそんなに心配することはありません。
元の数の小数点以下の桁数が判っているなら、結果の小数点以下の桁数もわかるはず。
その範囲で丸めれば基本的には誤差は出ません。
※もちろん有効桁数の範囲内での話です。
No.1
- 回答日時:
オーバーフロー/アンダーフロー
演算結果が指数部で表現できる範囲を超える場合があるが、最大値を超えた場合はオーバーフロー、絶対値の最小より小さい場合はアンダーフローという。IEEE 754の場合、アンダーフローは、まず結果が非正規化数となり精度が低下し、さらに進むと結果が0になる。
桁落ち
絶対値がほぼ等しい異符号の数値同士の加算後や、同符号でほぼ等しい数値同士の減算の後、正規化で有効数字が減少すること。詳細は桁落ちを参照。
情報落ち
浮動小数点数値を加減算するとき、指数を揃えなければならない。指数は絶対値の大きい方に揃えるが、このときに絶対値の非常に小さな値と絶対値の非常に大きな値との加減算を行うと、絶対値の大きな値の指数に揃えなければならないため、絶対値の小さな値は仮数部が大きく右シフトされ、仮数部の表現範囲からあふれて情報が欠落してしまう。情報欠落ともいう。詳細は情報落ちを参照。
積み残し
情報落ちが繰り返し起こる場合を言う。たとえば を n=0 の初項から計算しようとすると、ある項から情報落ちが起こり、それ以降の項が無視されてしまうことになる。これを積み残しと呼び、値の小さな項から加算をすることで対処する。
丸め誤差
仮数部の桁数が有限であるため、収まらない部分の最上位桁で四捨五入(2進法では0捨1入)して仮数部の桁数に丸めることによる誤差。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 物理学 特殊相対性理論を、完全否定に成功~ガンマの数式は、成立しない。 2 2023/03/08 19:30
- 統計学 標準誤差の求め方 2 2022/07/04 19:59
- 物理学 時間を語るなら、(複数の時間の正体)を知る必要が有る。 1 2023/02/16 22:14
- 統計学 対数平均二乗誤差(RMSLE)について 3 2023/01/04 12:41
- 統計学 信頼区間についての質問です。 6 2023/06/25 17:34
- 統計学 加重最小二乗法=①「変数を自然対数変換」=②「誤差項の分散の逆数を重み付け」? 8 2022/11/26 11:15
- 統計学 テストの順位についてです 今回のテストの順位を知りたいのですが、できますでしょうか?今回は僕の学年は 4 2022/11/30 19:15
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- 数学 至急!次の問題を教えてください。 ある市では、消防車の出動要請が平均して1時間当たり1回ある。 多く 2 2022/11/18 20:25
- 物理学 RC直列回路の実験で理論値と測定値の時定数を計算した結果±12%と大きな誤差が生じたのですがその原因 3 2022/09/29 22:32
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
16進数 加算 減算 C言語
-
三角比の俯角の計算
-
O(n log n)について2
-
VB.net Double と...
-
三菱シーケンサ(Aシリーズ)で...
-
有効数字について 以前質問をし...
-
距離から緯度経度を求める方法
-
除算を使わずに10で割りたい。
-
c languageで 簡単な質問があ...
-
VB6.0での小数点の扱いについて
-
Double型について
-
ExcelでPC(パソコン)によって...
-
変換指定子%22-16gの表示...
-
最大50桁の実数の和・差・積を...
-
【C言語】RGBと輝度の計算に関して
-
PICで小数点の演算
-
C言語プログラミングにて、arct...
-
PICマイコンのアセンブラについて
-
教えて小数点の比較!(C言語)
-
BCD・HEX・BINについて
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
ExcelでPC(パソコン)によって...
-
ExcelのINT関数の計算結果がお...
-
16進数 加算 減算 C言語
-
VB.net Double と...
-
floatの有効桁数
-
三菱シーケンサ(Aシリーズ)で...
-
c languageで 簡単な質問があ...
-
除算を使わずに10で割りたい。
-
VBAでミリ秒まで出力する方法
-
VBAでの割り算の余りの求め方
-
VB6.0での小数点の扱いについて
-
VB6のFIX関数での誤差について
-
有効数字について 以前質問をし...
-
100桁の計算ができなくて困って...
-
浮動小数演算は実行環境の変化...
-
EXCELの関数"STDEV(標準偏差)"...
-
BCD・HEX・BINについて
-
コンピューターは指数関数をど...
-
乱数 なぜ剰余を使うのか
おすすめ情報