電子書籍の厳選無料作品が豊富!

それほど多くはないですが、今の仕事で分母が18桁、分子が16桁の分数を小数に計算をしなくてはならなくなりました。(小数点以下5桁ほど)
手持ちの計算機ではできず困っています。
何か、計算できるソフトのようなものがあれば教えて下さい。

A 回答 (13件中11~13件)

分子が16桁で分母が18桁だとすると・・・・



仮に分子が10^18-1で分母が10^19としても、答えは0.1未満ですね。
それを小数点以下五桁程度で求めるとすれば、計算結果の有効数字は多くても4,5桁あれば十分ではと思います。

従って、有効数字の桁数を先に合わせてから計算すればいいのではと思います。
    • good
    • 0
この回答へのお礼

私には「10^18-1」と言うようなことが、ピンとこないので・・・

お礼日時:2013/05/14 08:11

excelでは駄目ですか?

    • good
    • 0
この回答へのお礼

お答えありがとうございました。
excelは持っていません。

お礼日時:2013/05/14 08:07

Windowsパソコンをお持ちなら、標準で入っている「電卓」で関数電卓モードを使用すれば計算できると思います。


Windows7の電卓のヘルプを見ると有効桁は32桁と書かれています。
    • good
    • 0
この回答へのお礼

「電卓」を開きましたが、よくわかりません。
でも、お答えありがとうございました。
更なる挑戦をしたいので。

お礼日時:2013/05/14 08:05

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!