No.3
- 回答日時:
単純な以下のような計算では、
72.3-76.575 = -7.27499999 ←このようにはなっていないようです。
この現象は、浮動小数点数丸め誤差というのですが、小数点を含む計算をするとき、コンピュータが2進数ですので、誤差が出てしまいます。だいたい小数100の内、半分以上に発生します。そこで、Microsoftでは、必要な桁数をROUND関数で丸めるように勧めています。
例:
=ROUND(演算, 3)
桁数を減らすと、表示で四捨五入しますが、それは、数値の過不足は補われていません。
https://support.microsoft.com/ja-jp/help/78113/f …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(趣味・アウトドア・車) EXCELの計算 3 2023/03/16 10:02
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
- 中学校受験 中学受験 3 2022/11/13 21:17
- 中学校 理科だけが極端に苦手 5 2022/09/10 14:18
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 統計学 t値の計算方法 1 2022/11/29 18:37
- その他(職業・資格) 資格取得したけど、意味がない 9 2022/06/01 10:52
- 数学 賃料と専有面積のデータが60部屋分ほどがあり、 賃料÷専有面積(=1㎡あたりの賃料)の数式で計算する 2 2023/02/18 20:33
- 医療事務・調剤薬局事務 入院会計のお仕事 1 2023/05/28 15:45
- その他(悩み相談・人生相談) 複数の緯度経度に囲まれた面内に点を確認できるか 1 2023/03/01 19:41
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
小数点の引き算
-
2進数の割り算が分かりません...
-
数字3桁の組み合わせの何通り...
-
エクセル:6E-05という表現は?
-
3÷7のあまりは「3」ですか?
-
数学の階乗はどんな時に使うの...
-
3分の1とは何パーセントでしょ...
-
基数変換
-
数値とアルファベットに分ける...
-
√2の値はなぜ1.414…になるんで...
-
Excelでの有効数字の合わせ方に...
-
3桁の数字は何通りですか?
-
です。 0.008020 の有効数字は...
-
NUMBER(N,M) としたときの、格...
-
小数と分数を2進数に直すやり方...
-
ある自然数が7で割り切れるか...
-
3の倍数かつ奇数である数
-
電話番号のハイフンの入れ方
-
算数です。 割り算の筆算で、商...
-
好きな数字が並ぶ不思議?
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2進数の割り算が分かりません...
-
エクセル:6E-05という表現は?
-
数字3桁の組み合わせの何通り...
-
数値とアルファベットに分ける...
-
60進法と10進法
-
3÷7のあまりは「3」ですか?
-
NUMBER(N,M) としたときの、格...
-
電話番号のハイフンの入れ方
-
EXCELで10万未満切捨ての...
-
数学の階乗はどんな時に使うの...
-
エクセル関数で桁数指定し数値...
-
です。 0.008020 の有効数字は...
-
関数電卓の表示方法を変更したい
-
3分の1とは何パーセントでしょ...
-
0以下の数字は何桁?
-
10進法の数を60進法の数に...
-
エクセルのsumifの検索値
-
【場合の数】 2桁の自然数で、2...
-
0.120は有効数字何桁ですか? ...
-
10進数で123を2進数で表わすと...
おすすめ情報