No.5ベストアンサー
- 回答日時:
こんにちは。
前の回答で、一応、こちらの数式もチェックしていただきたかったですね。
FLOOR(A1,0.005)+(MOD(A1*1000,10)>5)*0.005-B1
MOD((A1-B1)*1000,10) = 5
で、浮動小数点丸め誤差が発生しているから、小数点第14位目が、#2 の方のご指摘のとおりに、9になっていて、 「5」と等しくはなっていないわけです。だから、Excelの場合は、求める桁より外の値は、切り捨てるというのが一般的です。たとえば、時間計算なら、小数点第7位までとか。
整数変換法
INT(MOD((A1-B1)*1000,10))=5
小数点固定法
MOD(FIXED(A1-B1,3)*1000,10)=5
理屈は、両方とも同じです。
私は、なぜ、Microsoft は、このような仕様にしなければならなかったのか、疑問が残っています。今は、比較対象が限られていますから、単にExcelがどうこうという話しか出来ませんが、たぶん、このプログラム的な解決方法は、Lotus,Quadra,IBMなど各会社出してはあったし、かつては、Microsoft も対処していたのですが、Win-Excelになって、それを使えなかったことが原因だと思います。1991~2年頃に、LotusとMicrosoft共同で、この問題については発表がなされています。そうしないと、銀行など経理的な計算では大変な問題が発生する可能性があるからです。しかし、結局、Microsoft の一人勝ちのための、そのまま放置されたとも言えます。
ずいぶん前に、PC-VAN やTex で有名な三重大の奥村先生がこの問題を指摘していらっしゃるのですが、原因は、Microsoft が、「#IEEE 754 の double 型」をそのまま使っているということです。正直なところ、芳坂氏の説明は、丁寧に読みすすめましたが、あの説明では、私には良く分かりません。一応、元は雑誌の記事の内容ですから仕方がないと思います。表計算の場合は、ユーザーに対しては、その表計算上での対処法を提供すれば済むのではないか、と思っています。(maron-5さん、水を差してすみません。気を悪くなされないでください。)
No.4
- 回答日時:
◆的外れな回答で失礼しました
★これはやはり「演算誤差」でしょうか
◆ならば、下のURLを一度ご覧ください
「“達人”芳坂和行氏に学ぶ、エクセル(Excel)「演算誤差」対策講座」
参考URL:http://pc.nikkeibp.co.jp/pc21/special/gosa/index …
No.3
- 回答日時:
>求める解は0.235ですが0.240と表示されます
◆でも式が、ROUND(A1-B1,2) であれば、小数点第3位四捨五入小数点2桁表示のはずですので、0.235なら0.24は正動作だと思いますが?
No.1
- 回答日時:
A1、B1の数値を手入力した場合は期待する結果になるのではありませんか?
もしかしてA1、B1の値は、計算式で求めていて、その結果をセルの書式表示で「小数点以下3桁まで表示」にしていないでしょうか。その場合小数点以下4桁目で四捨五入された結果が表示されています。
(例えば1.234999999が1.235と表示されている。だからMOD関数の結果が5にならない)
A1、B1の式を
=ROUND(元の式,3)
にすれば正しい結果にならないでしょうか
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
関連するカテゴリからQ&Aを探す
おすすめ情報
- ・漫画をレンタルでお得に読める!
- ・街中で見かけて「グッときた人」の思い出
- ・「一気に最後まで読んだ」本、教えて下さい!
- ・幼稚園時代「何組」でしたか?
- ・激凹みから立ち直る方法
- ・1つだけ過去を変えられるとしたら?
- ・【あるあるbot連動企画】あるあるbotに投稿したけど採用されなかったあるある募集
- ・【あるあるbot連動企画】フォロワー20万人のアカウントであなたのあるあるを披露してみませんか?
- ・映画のエンドロール観る派?観ない派?
- ・海外旅行から帰ってきたら、まず何を食べる?
- ・誕生日にもらった意外なもの
- ・天使と悪魔選手権
- ・ちょっと先の未来クイズ第2問
- ・【大喜利】【投稿~9/7】 ロボットの住む世界で流行ってる罰ゲームとは?
- ・推しミネラルウォーターはありますか?
- ・都道府県穴埋めゲーム
- ・この人頭いいなと思ったエピソード
- ・準・究極の選択
- ・ゆるやかでぃべーと タイムマシンを破壊すべきか。
- ・歩いた自慢大会
- ・許せない心理テスト
- ・字面がカッコいい英単語
- ・これ何て呼びますか Part2
- ・人生で一番思い出に残ってる靴
- ・ゆるやかでぃべーと すべての高校生はアルバイトをするべきだ。
- ・初めて自分の家と他人の家が違う、と意識した時
- ・単二電池
- ・チョコミントアイス
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
ExcelでPC(パソコン)によって...
-
計算の丸め誤差の解消について
-
c languageで 簡単な質問があ...
-
三菱シーケンサ(Aシリーズ)で...
-
教えて小数点の比較!(C言語)
-
演算について
-
除算を使わずに10で割りたい。
-
VB.net Double と...
-
MATLABでの行列の全要素の和
-
計算機誤差
-
有効数字について 以前質問をし...
-
0.1の10000回の累積
-
”/”を使わずに割り算したいんで...
-
計算精度(限りなくゼロに近く)
-
ラズベリーパイ>MM-TXS03で温度...
-
スーパーコンピュータの処理速...
-
java 実数の割り算
-
Log関数に関する質問
-
最大50桁の実数の和・差・積を...
-
加算と減算で乗算と除算を表現...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
O(n log n)について2
-
VB.net Double と...
-
c languageで 簡単な質問があ...
-
ExcelのINT関数の計算結果がお...
-
有効数字について 以前質問をし...
-
ExcelでPC(パソコン)によって...
-
三菱シーケンサ(Aシリーズ)で...
-
除算を使わずに10で割りたい。
-
16進数 加算 減算 C言語
-
EXCELの関数"STDEV(標準偏差)"...
-
VB6.0での小数点の扱いについて
-
”/”を使わずに割り算したいんで...
-
距離から緯度経度を求める方法
-
VBAでミリ秒まで出力する方法
-
floatの有効桁数
-
コンピューターは指数関数をど...
-
時刻の比較
-
計算の丸め誤差の解消について
-
Double型について
-
powf を使わずにべき乗を計算
おすすめ情報