No.3
- 回答日時:
単純な以下のような計算では、
72.3-76.575 = -7.27499999 ←このようにはなっていないようです。
この現象は、浮動小数点数丸め誤差というのですが、小数点を含む計算をするとき、コンピュータが2進数ですので、誤差が出てしまいます。だいたい小数100の内、半分以上に発生します。そこで、Microsoftでは、必要な桁数をROUND関数で丸めるように勧めています。
例:
=ROUND(演算, 3)
桁数を減らすと、表示で四捨五入しますが、それは、数値の過不足は補われていません。
https://support.microsoft.com/ja-jp/help/78113/f …
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- その他(趣味・アウトドア・車) EXCELの計算 3 2023/03/16 10:02
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
- 中学校受験 中学受験 3 2022/11/13 21:17
- 中学校 理科だけが極端に苦手 5 2022/09/10 14:18
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 統計学 t値の計算方法 1 2022/11/29 18:37
- その他(職業・資格) 資格取得したけど、意味がない 9 2022/06/01 10:52
- 数学 賃料と専有面積のデータが60部屋分ほどがあり、 賃料÷専有面積(=1㎡あたりの賃料)の数式で計算する 2 2023/02/18 20:33
- 医療事務・調剤薬局事務 入院会計のお仕事 1 2023/05/28 15:45
- その他(悩み相談・人生相談) 複数の緯度経度に囲まれた面内に点を確認できるか 1 2023/03/01 19:41
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
2進数の割り算が分かりません...
-
一億引く百が苦手なめい
-
エクセル:6E-05という表現は?
-
数値とアルファベットに分ける...
-
NUMBER(N,M) としたときの、格...
-
数字3桁の組み合わせの何通り...
-
電話番号のハイフンの入れ方
-
60進法と10進法
-
EXCELで10万未満切捨ての...
-
Googleの電卓アプリの有効数字...
-
Excelで数値の丸め
-
AccessでExcelでのMOD関数と同...
-
3÷7のあまりは「3」ですか?
-
エクセル関数で桁数指定し数値...
-
10進法の数を60進法の数に...
-
数学の階乗はどんな時に使うの...
-
エクセルのsumifの検索値
-
0.120は有効数字何桁ですか? ...
-
アルファベット 26進数データ...
-
100!
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
エクセル:6E-05という表現は?
-
2進数の割り算が分かりません...
-
数字3桁の組み合わせの何通り...
-
1から1000までの1は何回でるの?
-
数値とアルファベットに分ける...
-
3÷7のあまりは「3」ですか?
-
60進法と10進法
-
小数点の引き算
-
電話番号のハイフンの入れ方
-
数学の階乗はどんな時に使うの...
-
EXCELで10万未満切捨ての...
-
NUMBER(N,M) としたときの、格...
-
循環小数を分数にする方法
-
3分の1とは何パーセントでしょ...
-
10進法の数を60進法の数に...
-
100!
-
0.120は有効数字何桁ですか? ...
-
合同式について
-
です。 0.008020 の有効数字は...
-
10進数で123を2進数で表わすと...
おすすめ情報