計算ソフトでの計算精度について

Question

例えば、0.0001と1/10＾４を入力した場合、どちらの方が高い精度で計算してくれるのでしょうか？

yhr2 · Accepted Answer

No.1 です。

＞1/3
＞の方が
＞0.33333333333、、
＞よりどこまでも正確です。

それは10進数で「表記」した場合の話。
2進数の分数がどういうものか知っていますか？

a × 2^(-1) + b × 2^(-2) + c × 2^(-3) + d × 2^(-4) + e × 2^(-5) + ・・・
= a × (1/2) + b × (1/2)^2 + c × (1/2)^3 + d × (1/2)^4 + e × (1/2)^5 + ・・・

が2進数の「0.abcde･･･」です。（2進数だと a, b, c, ･･･は「0 か 1」です）

「分数」は単なる「表記法」であって、値そのものは変わりません。
「桁落ち」は「10進数を、何桁の2進数に置き換えているか」だけの問題です。

Tacosan · Answer

どういう状況を想像しているんだろうか. そして, ここでいう「計算」とはいったいどのような処理なのだろうか.

世の中に「計算ソフト」なるものがただ 1種類存在しそれは「計算ソフト」と呼ぶだけで一般に理解できる, ということではなければそもそも質問自体が成立しない.

「計算ソフト」が「なんらかの計算をしてくれるプログラム」のことを指しているとしても, 一般論として「全ての『計算ソフト』でどのような『計算』をしても精度については一貫して同じ結果が得られる」という根拠はない. 従って「どちらの方が高い精度で計算してくれるのでしょうか？」にはやはり答えられない.

「1/10＾４」が 0 になる可能性も否定はできないし, 内部的な事情で「1/10＾４」の方が精度がよくなるということも考えられなくはない.

rera1016 · Answer

所詮、コンピューターは０と１で計算をしていて、内部でも浮動小数点で処理をしているので、分数表記を行っても、内部は小数です。

kmee · Answer

一概に言えません
・内部で値をどう保存しているか?
　固定小数点/浮動小数点
　2進数/10進数 等
・「0.0001」「1/10^4」という「文字列」をどう解釈してどう「内部の値」に変換しているか?
　「0.0001」を内部では「1/10^4」で計算して求めている可能性もある

mimon01 · Answer

どちらも、二進数では循環小数になりますから、大した精度を得られませんし、今どきのコンパイラを通せば計算を最適化してくれますので、同じになります。
インタプリタの場合には、後者は収束性の悪い対数を取って4倍してから指数にしますので、計算時間がかかる上に精度も下がるはずです。

rera1016 · Answer

小数で書き込んだ方が計算する必要がないので高精度ではないでしょうかね。

yhr2 · Answer

そのソフトの中での「数値の取り扱い方」によります。
通常の、まっとうなプログラマーが作ったソフトなら、どちらも同じでしょう。

No.1 です。