さっき、http://oshiete1.goo.ne.jp/kotaeru.php3?q=685942で切捨てがうまくできないっていう質問があって、私は計算機を出してまでなんでやろ~って思って計算して、回答しました。
ところがです、あっさりとそれは浮動小数点数の演算誤差ですっていう答えがすでに出ていたんです。(勉強になりました)
うぅぅ~計算機まで出してきて計算した私ってなんてお馬鹿・・・トホホってそれはさておき
ここからが質問なんですが、浮動小数点数の演算誤差っていうのはなんとなくは知っていたのですが(本で読んだことはある程度で、もちろん人に説明できるレベルではありませんが)そういうのってどんな場合にでるのでしょう。
さっきの質問の確認のため、Excel2002でオプションの計算のしかたなども変えてみてやったのですが、一度もそういう計算結果はでなかったのですよ。
でも、質問されている方がいるということはそういう計算結果もでるっていうことですよね。なので、どういう場合にそういう結果がでるのかと気になって。
さっきの質問の所に書き込もうかとも思ったのですが、他の方の質問にさらに質問するっていうのは失礼なような気もして、新しく質問しました。
先ほど答えていらっしゃった方でも、他の方でそういうことに詳しい方でもお時間あれば教えていただけないでしょうか。
No.1ベストアンサー
- 回答日時:
Excel(というよりコンピュータの)演算誤差については以下のURLの解説がわかりやすいです。
参考URL:http://pc21.nikkeibp.co.jp/pc21/special/gosa/ind …
早速の回答ありがとうございます。
教えていただいたサイトはかなり詳しく書いてあるようでじっくり読んでみたいと思います。
最近ここを利用するようになって、質問にすぐ答えてもらえることもさることながら、こういう自分の知らなかった役立つサイトを教えてもらえることもすごく有益です。
また、よろしくお願いします。
No.2
- 回答日時:
「浮動小数点 誤差」または「浮動少数点 誤差」でWEB照会すると沢山出てきます。
http://support.microsoft.com/default.aspx?scid=% …
http://support.microsoft.com/default.aspx?scid=h …
http://www.twcu.ac.jp/~nabe/lec/CompB/CompB_s24. …
ほか出てきます。コンピュターで数値解析をする時の大問題なんですが、経理や人事などビジネスではあまり考えなくても済む面があります。整数や固定小数点数を考えることが多いですから。
回答ありがとうございます。
私も普段そんなこと全然考えていませんでした。数値解析なんて大それたことしませんし。(笑)
ただ、質問を読んでいただいてお分かりいただけてると思いますが、他の方の質問から一人で盛り上がってしまいました。
教えていただいたサイトをじっくり見て勉強したいと思います。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・人生のプチ美学を教えてください!!
- ・10秒目をつむったら…
- ・あなたの習慣について教えてください!!
- ・牛、豚、鶏、どれか一つ食べられなくなるとしたら?
- ・【大喜利】【投稿~9/18】 おとぎ話『桃太郎』の知られざるエピソード
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
molにはどうして後に000がつ...
-
誤差率が1%はおおきいですか?...
-
教科書に問題文の数値が整数の...
-
1.002m+1.0mmの答えは有効数字...
-
対数グラフでエラーバーを追加...
-
誤差を含む加減乗除
-
実験値と理論値での誤差の原因
-
0.5797を少数第3位まで求めよと...
-
sinなどの有効数字
-
1.5V と 1.50V の違い
-
LC発振回路の発振周波数が理論...
-
物理基礎について。有効数字に...
-
高一の科学基礎。mol計算の有効...
-
素朴な疑問、なぜ高層ビルは1...
-
表に(U/mgprot)、±と書いてい...
-
RLC回路について。
-
時定数で実験で求めた値と理論...
-
逆数の誤差
-
お釣りの間違い
-
アンペアの違うACアダプタっ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
マイナスを含むデータの平均と分散
-
教科書に問題文の数値が整数の...
-
molにはどうして後に000がつ...
-
誤差率が1%はおおきいですか?...
-
身長計。学校にあるやつ、病院...
-
【エクセル】グラフ誤差範囲の0...
-
スマートウォッチから血圧測定...
-
素朴な疑問、なぜ高層ビルは1...
-
1が3で割り切れないということ...
-
身長測って174.5cmで公称で175...
-
直線性について
-
逆数の誤差
-
0.5797を少数第3位まで求めよと...
-
相対誤差について
-
対数グラフでエラーバーを追加...
-
表面抵抗の表現方法について教...
-
ご飯食べないでいたら身長2cm縮...
-
周波数確度ppmとは。
-
LC発振回路の発振周波数が理論...
-
時定数で実験で求めた値と理論...
おすすめ情報