天使と悪魔選手権

先ほど、少し興味を持ちまして、Excelで2の50乗の計算方法を調べました。
調べたところ、セルの中に「=2^50」と書けば、その答えを導き出せるだろうと分りました。

しかし、EXCELでこれを計算させると、セルの書式を数値に変えても、
答えは『1,125,899,906,842,620』でした。

これを実際に、Windowsでも標準で付いている計算機で計算しても、
答えは『1,125,899,906,842,624』となります。

Excelの書式を変えてみたり、小数点以下を増やしても、どうしても最後の『4』が導き出せません。

これは、計算式の書き方が悪いのでしょうか?
それとも、何か設定の問題なのでしょうか?
正しい計算方法などがあれば、教えて下さい。

宜しくお願いします。

A 回答 (3件)

結論を言ってしまえば、Excelの計算結果は15桁を超えてしまうと誤差を生じます。

なぜそうなるかは良い説明があるので、次のリンク先の記事を読んでください。

http://pc.nikkeibp.co.jp/pc21/special/gosa/

で、15桁までなら大丈夫ってことは、=2^49はどうなるんだ?と試したところ、562,949,953,421,312と言う答えになりました。やはり大丈夫のようです。Excelを使う以上はこの15桁の制限を意識しておかなければなりません。ちなみに、OpenOffice CALCでも全く同じ結果になりました。
    • good
    • 0

数値事態は、無限大です。

    • good
    • 0

ヘルプ参照


-----
15 桁の精度 Excel では、格納したり計算に使う数値の有効桁数は 15 桁です。
-----
(少なくともEXCEL2003は)
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!