先ほど、少し興味を持ちまして、Excelで2の50乗の計算方法を調べました。
調べたところ、セルの中に「=2^50」と書けば、その答えを導き出せるだろうと分りました。
しかし、EXCELでこれを計算させると、セルの書式を数値に変えても、
答えは『1,125,899,906,842,620』でした。
これを実際に、Windowsでも標準で付いている計算機で計算しても、
答えは『1,125,899,906,842,624』となります。
Excelの書式を変えてみたり、小数点以下を増やしても、どうしても最後の『4』が導き出せません。
これは、計算式の書き方が悪いのでしょうか?
それとも、何か設定の問題なのでしょうか?
正しい計算方法などがあれば、教えて下さい。
宜しくお願いします。
No.3ベストアンサー
- 回答日時:
結論を言ってしまえば、Excelの計算結果は15桁を超えてしまうと誤差を生じます。
なぜそうなるかは良い説明があるので、次のリンク先の記事を読んでください。http://pc.nikkeibp.co.jp/pc21/special/gosa/
で、15桁までなら大丈夫ってことは、=2^49はどうなるんだ?と試したところ、562,949,953,421,312と言う答えになりました。やはり大丈夫のようです。Excelを使う以上はこの15桁の制限を意識しておかなければなりません。ちなみに、OpenOffice CALCでも全く同じ結果になりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
15%増しの計算方法
-
中1です!宿題で数学のレポート...
-
3分2の計算教えて下さい
-
パーセントの計算
-
前年比の%の計算式を教えてく...
-
何通りかの計算で 7C4 の答えが...
-
日にちの計算が解からないらし...
-
6畳間は何立方メートル?
-
ラジアン値を°′″(度・分・秒)...
-
πがついた整数と普通の整数って...
-
エクセルで関数計算後の値を数...
-
3割アップとは、どうのように...
-
一定倍したある数を元に戻すには?
-
毎日10%ずつお金が増える時...
-
教えて下さい
-
指数計算 2^n-1
-
割引の計算を教えてください。
-
Excelの反復計算がわかりません。
-
「出来型」と「出来形」の使い...
-
割引や%引きの計算のやり方を教...
おすすめ情報