10秒目をつむったら…

さっき、http://oshiete1.goo.ne.jp/kotaeru.php3?q=685942で切捨てがうまくできないっていう質問があって、私は計算機を出してまでなんでやろ~って思って計算して、回答しました。

ところがです、あっさりとそれは浮動小数点数の演算誤差ですっていう答えがすでに出ていたんです。(勉強になりました)
うぅぅ~計算機まで出してきて計算した私ってなんてお馬鹿・・・トホホってそれはさておき

ここからが質問なんですが、浮動小数点数の演算誤差っていうのはなんとなくは知っていたのですが(本で読んだことはある程度で、もちろん人に説明できるレベルではありませんが)そういうのってどんな場合にでるのでしょう。

さっきの質問の確認のため、Excel2002でオプションの計算のしかたなども変えてみてやったのですが、一度もそういう計算結果はでなかったのですよ。
でも、質問されている方がいるということはそういう計算結果もでるっていうことですよね。なので、どういう場合にそういう結果がでるのかと気になって。

さっきの質問の所に書き込もうかとも思ったのですが、他の方の質問にさらに質問するっていうのは失礼なような気もして、新しく質問しました。

先ほど答えていらっしゃった方でも、他の方でそういうことに詳しい方でもお時間あれば教えていただけないでしょうか。

A 回答 (2件)

Excel(というよりコンピュータの)演算誤差については以下のURLの解説がわかりやすいです。



参考URL:http://pc21.nikkeibp.co.jp/pc21/special/gosa/ind …
    • good
    • 0
この回答へのお礼

早速の回答ありがとうございます。

教えていただいたサイトはかなり詳しく書いてあるようでじっくり読んでみたいと思います。

最近ここを利用するようになって、質問にすぐ答えてもらえることもさることながら、こういう自分の知らなかった役立つサイトを教えてもらえることもすごく有益です。
また、よろしくお願いします。

お礼日時:2003/10/22 11:26

「浮動小数点 誤差」または「浮動少数点 誤差」でWEB照会すると沢山出てきます。


http://support.microsoft.com/default.aspx?scid=% …
http://support.microsoft.com/default.aspx?scid=h …
http://www.twcu.ac.jp/~nabe/lec/CompB/CompB_s24. …
ほか出てきます。コンピュターで数値解析をする時の大問題なんですが、経理や人事などビジネスではあまり考えなくても済む面があります。整数や固定小数点数を考えることが多いですから。
    • good
    • 0
この回答へのお礼

回答ありがとうございます。

私も普段そんなこと全然考えていませんでした。数値解析なんて大それたことしませんし。(笑)
ただ、質問を読んでいただいてお分かりいただけてると思いますが、他の方の質問から一人で盛り上がってしまいました。
教えていただいたサイトをじっくり見て勉強したいと思います。

お礼日時:2003/10/23 00:14

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!