
No.5ベストアンサー
- 回答日時:
みなさまが仰るように、excelが正しいです。
これは、電卓もexcelも使うことなく、単純に正しいと分かります。
たとえば、「1000/12*12」としましょう。
答は「1000」です。
割る数字と、かける数字、同じ数字ですよね。
それであれば、答は「割ったりかけたりする前と同じ」になります。
では、「1000/2*0.002」としましょう。
答は「1」です。
では、「1000/5*.005」としましょう。
答は「1」です。
割る数字とかける数字、同じ数字の桁違いですよね。
つまり、1000に対して桁だけを変更させる意味になります。
この場合、かける数字のほうが0.001の桁になっている為、1000→1に変わります。
理屈的にはこういう考え方になります。
納得いきますか?
電卓の場合は、一旦「1000/12」という数式の答を出して、それに「0.012」をかける。という計算式になってしまいます。
つまり、
1000/12=83.33333
83.3333×0.012=0.99999
という感じでしょうね。
だから、計算の理屈が若干違います。
数学のテストなどで、質問文の計算式が出てきた場合、正解とされるのは「1」の方です。
この回答へのお礼
お礼日時:2011/11/07 15:58
みなさん早速の回答ありがとうございました。
excelと電卓の違いが理解できました。
実際の計算はもう少し複雑なのですが、給与計算をしていて、個別計算した場合とexcelの計算式で一度に値を求めた場合で結果が異なっていたので、質問させて頂きました。
excelは理解できましたので、給与計算時のルールを確認して、そのルールにあった計算方法をします。
皆様ありがとうございました。
No.4
- 回答日時:
四則演算のルールに従うと、エクセルの計算結果は合っています。
電卓で計算した場合、1000/12の計算をしたときに
切り捨ての誤差が入ってしまうので、電卓での計算の方が間違っています。
No.2
- 回答日時:
0.012=12/1000ですよね?
(1000/12)*(12/1000)=1ですよね?
「電卓が正しい」というのが間違っていて、Excelの結果は正しいと思いますけど。
No.1
- 回答日時:
>電卓が正しいのですが、excelで正しく計算結果を表示することは可能でしょうか?
1000/12=1/0.012なので、正しいのはEXCELの方ですが...
計算時の有効桁数とまるめ処理の問題です。
有効桁数の切り捨てを行えばいいので
=ROUNDDOWN(ROUNDDOWN(1000/12,9)*0.012,9)
とすれば0.999999999になります。
※小数点以下10桁以上だと駄目なのでご注意ください。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
電卓での二乗のやり方
-
電卓の「MU」キーって何ですか?
-
エクセルで、同一セル内に自動...
-
電卓で3割引とかの計算の仕方
-
人口の0.7%って、何人?
-
ルートの中に少数がある場合ど...
-
iPhoneの電卓
-
電卓の調子が悪いときどうして...
-
電卓の中に水が入ってしまった...
-
長方形の対角の寸法を普通の電...
-
電卓の計算結果を解説してほし...
-
計算機で割り算の余りを出す方...
-
電卓の「M+」「M-」「MR」「MC...
-
長い間ほったらかしにしてた、...
-
電卓のGTとメモリーの違いを教...
-
電卓でWindowsのCtrl+Zみたいな...
-
Windowsのメモ帳での計算の仕方...
-
tanΘを出すときの電卓の使い方
-
電卓のキーが固くなってしまい...
-
windowsの電卓で計算していたら
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
電卓での二乗のやり方
-
人口の0.7%って、何人?
-
電卓の「MU」キーって何ですか?
-
エクセルで、同一セル内に自動...
-
iPhoneの電卓
-
ルートの中に少数がある場合ど...
-
電卓で3割引とかの計算の仕方
-
電卓の「M+」「M-」「MR」「MC...
-
長方形の対角の寸法を普通の電...
-
電卓のキーが固くなってしまい...
-
計算機で割り算の余りを出す方...
-
tanΘを出すときの電卓の使い方
-
電卓やキーボードの音について
-
電卓の計算結果を解説してほし...
-
電卓で8分の1の打ち方を教えて...
-
長い間ほったらかしにしてた、...
-
関数電卓のDEGやHYPやF-Eの意味...
-
電卓の調子が悪いときどうして...
-
電卓でWindowsのCtrl+Zみたいな...
-
電卓計算(掛け算と足し算)
おすすめ情報