Windows XP EXCEL2003 を使用しています。
(1)-81028.566
(2)-80986.936
(3)-65422.635
上のような数字が入力されていて、
((1)-(2))×(3) の計算をしています。
EXCELで計算すると答えが
2723544.2950503
と表示されてしまいます。
(-81028.566 - (-80986.936) * -65422.635
↓
(-81028.566 + 80986.936) * -65422.635
( )の中を計算すると-41.63
-41.63 * -65422.635 = 2723544.29505
となると思うのですがこの03はどうしてでてくるのでしょうか?
ご存知の方いらっしゃいましたらよろしくお願いいたします。
No.1ベストアンサー
- 回答日時:
十進数の小数を二進数に変換して計算するときによくある、「丸め
誤差」ですね。
(-81028.566)-(-80986.936)の時点で、-41.6300000000047000 に
なってしまいます。ここをそれぞれ1000倍してから引き算して1000
で割るように書き換えてやると、誤差のない-41.6300000000000000
になり、-65422.635を掛けると2723544.2950500000000000 が出てき
ます。引き算の後でroundしても大丈夫ですね。
おかげさまで解決しました。
マイクロソフトのサポートページの説明ではどうしたらいいかよくわからなかったので助かりました。
ご丁寧にありがとうございました。
No.3
- 回答日時:
「Excel上で小数点を使用して計算すると、誤差を生じる場合がある」
ということだそうです。詳しくはリンク先を。
http://support.microsoft.com/kb/813530/ja
http://support.microsoft.com/kb/78113/ja
http://support.microsoft.com/kb/402554/ja
誤差が許されない計算を行う場合は、一度整数にして計算して戻すしかないようです。
整数にして計算しなおしたら誤差がなくなりました。
答えがどうしても合わずとても困っていたので助かりました。
回答ありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) Excel(エクセル)でフィルター抽出後、非表示の行を計算しないで、合計を算出する方法 【内容】 添 4 2023/01/30 17:17
- 事務・総務 Excelの表計算についてお聞きしたいことがあります。 7 2022/04/30 16:32
- Excel(エクセル) 分数をエクセルに入れる計算式について 4 2022/05/13 09:14
- その他(コンピューター・テクノロジー) 正規表現の置換で数値を合計したいです。 2 2022/10/17 11:01
- その他(Microsoft Office) Excelで時間計算(負) 8 2023/02/26 05:47
- Excel(エクセル) Microsoft365の購入について。 朝、自宅のパソコンでExcel家計簿を入力しようとしたら、 5 2022/07/01 06:59
- Excel(エクセル) エクセル 条件に合う日付に入力された時間数の合計したい 4 2022/06/17 22:18
- Java java 飾子を付けること(public static・・・) ・コンソールへの出力処理はmainメ 2 2022/06/16 19:34
- Excel(エクセル) Excelのマクロについてご教授ください 2 2023/02/25 09:43
- その他(職業・資格) 資格取得したけど、意味がない 9 2022/06/01 10:52
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
簿記3級 小数点以下の計算
-
混合ガスの爆発限界
-
Excelでタイムコード(映像)の...
-
”電波自由空間損失”のエクセル...
-
(a+b)(b+c)(c+a)の展開の仕方を...
-
EXCELにてローパスフィルタを作...
-
溶解度の問題 理科
-
下の対数表示のグラフから低域...
-
私は、ベストアンサー率が8パー...
-
自分が求めている答えが返って...
-
検量線の決定係数について
-
心理機能診断をしたのですが、...
-
サンプル数の異なる2群間にお...
-
(2)の問題です。 Xの4乗+4を因...
-
「語句」とは何
-
全商推薦について教えてください。
-
高一数学です。とても困ってお...
-
統計学の問題でわからないので...
-
勃起の対義語(反対語)は何な...
-
統計 RSD%について教えて下さい。
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
Excelでタイムコード(映像)の...
-
エクセルで勤怠表を作りたいの...
-
小数点以下は、どこまで計算す...
-
混合ガスの爆発限界
-
簿記3級 小数点以下の計算
-
秒を日付に変換
-
”電波自由空間損失”のエクセル...
-
分割で支払いする場合電卓で計...
-
記録タイマーの計算が分かりま...
-
Excel関数で出した勤続年...
-
1光年の計算方法について
-
傾き補正について
-
計算機の上手な使い方おしえて...
-
2進数から8進数に変換の
-
時間計算がうまくいかない
-
SD法で各対象間の距離(D値)を...
-
エクセルの計算式
-
不良率について
-
津波1m"計算上"の死亡率100%とは?
-
社内の有給計算式をExcelで作り...
おすすめ情報