プロが教えるわが家の防犯対策術!

エクセルで数式を使っていて、一つのセルだけ異常な数値が出ます。
下記のような結果が出ますが、こういう現象はあるのでしょうか?
例)
セル(内容) : 値(画面表示)
A1(=SUM(B2:B79) :11.4000000000000000000000000000
A2(手入力 11.4) :11.4000000000000000000000000000
A3(=A1-A2) : △ 0.0000000000000142108547152020
※ちなみに(B2:B79)も小数点以下は第一位までしか入力してません。

A 回答 (3件)

PCの中の実数は浮動小数点で扱っています。


ですので、
SUM(B2:B79)とした計算結果の11.4000…

手で入力した11.4000…
では、厳密にいうと(表示されている部分は同じでも)違います。

ということではないでしょうか?
浮動小数点って何?
ってことについては
「浮動小数点とは」
などで検索なさってご自身でお調べ下さい。
(自分がうまく説明する自信はありません。)
    • good
    • 0
この回答へのお礼

ありがとうございました。結構多くの場合、こうなっていることが分かりました。浮動小数点についても勉強になりました。

お礼日時:2005/05/10 13:37

あり得ますね。



人が見れば異常な数値なのですが、コンピュータと言わず電子計算機であれば実はどの機械で計算してもこうなると思います。

ですから、少しでも正確にしたい場合はROUNDDOWN等の関数を利用して計算ています。
求めた値を他の計算に利用して・・・って繰り返したら微妙にずれてくる事があります。

頑張って下さい。
    • good
    • 0
この回答へのお礼

ありがとうございます

お礼日時:2005/05/10 13:36

そんな単純ではないと思うのですが、一応。


書式で少数点以下の桁数をしているとかではないですか?

この回答への補足

早速ありがとうございます。
おっしゃるとおり、書式で小数点以下の桁数を30桁とかにしています。

というのは、もともと数式の答えが「0」になるはずなのに「-0」になっていたのでおかしいなと思い、桁数を増やしてみたのです。

そうしたら引き算が間違っているじゃないですか?

変だなと思い質問した次第です。

補足日時:2005/05/10 10:58
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!