アプリ版:「スタンプのみでお礼する」機能のリリースについて

こんばんわ。

割り算について、以前から気になっている事があります。


32000÷1.2×0.75を計算する場合、電卓でそのまま入力すると19999.99999999・・・と続きます。
しかし、
まずは32000×0.75を計算してから1.2で割ると20000と答えが出ます。


簿記の勉強をしているとき、答えが20000となっている場合、電卓で19999.999と出て時々困ります。
何故このようなことがおきるのでしょうか?

A 回答 (7件)

>簿記に使う電卓は内部で2進化10進数を使った計算をしているモノを使いましょう。



2進化10進数を使うだけでは 1÷3X3=1 にはなりません。1を表示する電卓は、
表示しない余分な桁まで計算して、表示時に非表示桁で丸めて表示しているのです。

計算誤差が計算結果から消えるわけではありません。有限桁で計算する以上、
計算誤差を避ける確実な方法はありません。
    • good
    • 0

二進化十進数では、この問題の解決にはなりませんが、


内部計算を分数で行える処理系なら、大丈夫です。
電卓ではないけれど、こういう↓ソフトもありますよ。
http://hp.vector.co.jp/authors/VA008683/
(「有理数モード」を使う。)
    • good
    • 0

ちなみに Excel は裏でいろいろと姑息なことをして「きちんと計算できている」ように見せかけています. なまじ「見せかけている」

分だけ, かえって質が悪かったりしますが....
    • good
    • 0

すみません。

3の者です。

EXCEL2010で試したところ、普通に20000になりました。期待されていたらごめんなさい。
    • good
    • 0

電卓はどうしても桁数に限度が有るので、誤差というものが出てしまいます。

先の方が書かれている例題(1÷3×3など)その典型です。人間は、或る程度の≪まるめ≫を無意識にやっています。

試しにパソコンのEXCELでこの計算式を入れ、列幅を変えたり、書式を変えたりしてみて下さい。面白いと思いますよ。
    • good
    • 0

電卓の中身は2進数で計算されているので、そうなるんですよ。


有名なのは
  1÷3×3
ですね。
 0.9999999999
になっちゃうんです。

簿記に使う電卓は内部で2進化10進数を使った計算をしているモノを使いましょう。
これなら
  1÷3×3
を計算しても答えは1になります。


難しく考えちゃダメ。
  1÷3×3
お店でこの計算をして1が返ってくる電卓を買えば良いんです。
    • good
    • 0

最初の割り算が、割り切れないからです。

こんなことは、2÷3×6などでも起こりますよ。
この場合も、分数表記で、分子に2×6、分母に3を持ってくれば、解決するんですがね。
    • good
    • 1

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!