初めての質問です。
Excelでパーセントの差によって、TUREかFALSEを返すようにしていますが、判定する数値によって
誤った結果が返されます。
回避方法をご存じの方がいらっしゃいましたらお願いします。
現象
正しい判定の場合
A1に70%を設定、A2に72%を設定、A3に「=(A2-A1)>=2%」を設定。
→2%の差なので、正常にTRUEがA3に返されます。
誤った判定の場合
A1に80%を設定、A2に82%を設定、A3に「=(A2-A1)>=2%」を設定。
→2%の差なのに、FALSEがA3に返されます。
これを正常にTRUEを返す方法はありますでしょうか。
あと、1%から100%までためしたところ、A1,A2が以下の組み合わせの場合にもFLASEが返されました。
55%,57%
56%,58%
67%,69%
68%,70%
81%,83%
92%,94%
93%,95%
どうぞよろしくお願いいたします。
No.2ベストアンサー
- 回答日時:
2進数で計算しているため、小数点以下の数値の計算には誤差が含まれます。
これを微小誤差と呼びます。
例えば、質問の例では、
0.57-0.55=0.02
になるのが正解なのですが、2進数で計算するため Excel では
0.57-0.55=0.01999999999999990
となるのです。
ちなみに小数点以下17桁目が 0 なのは、スプレッドシート型の表計算では16桁までしか値を扱えないため、小数点以下17桁目以降は計算されず 0 になるのです。
前の回答者さんも仰るように桁を丸めたうえで評価することを薦めます。
・・・
添付した図では
小数点以下16桁では正しく表示されないので、
小数点以下15桁に値を丸めた例です。
・・・余談・・・
そんなわけで金融関係のお仕事でExcelってあまり使われません。
具体的な図で示していただき、ありがとうございます。
ご回答いただいた通り、小数点15桁でROUNDすると正しく判定されるようになりました。
大変助かりました。
No.1
- 回答日時:
おそらく浮動小数点の誤差が原因ですので、業務上問題のない精度にまで四捨五入してから比較することをお勧めします。
参考)
https://support.microsoft.com/ja-jp/office/round …
早々のご回答、ありがとうございます。
後から回答頂いた「銀鱗」さんの情報とともにROUND設定すると正しく判定されるようになりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) エクセルのA1~A5の任意のセルを選んだら1、A6~A10のセルなら2と返す設定にしたいと思ってます 6 2023/03/20 18:46
- Excel(エクセル) SUMIF関数について 4 2023/06/14 13:13
- Excel(エクセル) Excelの空文字判定について 7 2023/01/06 13:25
- 防犯カメラ・監視カメラ・小型カメラ 屋外用のIPカメラ(ライブカメラ)の位置情報について 1 2022/06/23 18:32
- Excel(エクセル) ユーザー定義について質問です。 2 2023/06/28 13:21
- Excel(エクセル) エクセルの関数に関しての質問です。 5 2022/10/07 11:17
- Excel(エクセル) ExcelのIF関数について 4 2023/05/24 12:54
- Excel(エクセル) エクセルの数式で教えてください。 5 2023/02/10 15:11
- Excel(エクセル) エクセルの数式で教えてください。 1 2023/02/09 14:54
- Excel(エクセル) エクセルについて教えてください。 1 2022/12/26 09:01
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
振動試験の掃引の条件設定について
-
ゴールデンカムイのアシリパち...
-
Googleフォームで作成したアン...
-
ボタンが2つだけのデジタル時...
-
Googleカレンダーで祝日に予定...
-
親がAndroidで子がiPhoneで子供...
-
セルスター ARG10A
-
JCOM利用で、TVを買い替えする...
-
AndroidのAPN設定をいじってい...
-
Googleナビで高速に乗って遠出...
-
SMSの受信について LINEの設定...
-
富士見ノベル大賞とビーンズ文...
-
「設定してほしい」と「設定さ...
-
「マンガミーヤ」は「windows1...
-
奈須きのこの魔法・魔術設定
-
東横線のQシート、供給過多なの...
-
K-9 MAIL 設定のインポート
-
無線LANルーターはリチウム電池...
-
PACサーバーとは?
-
このPCのスペックではあと何年...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
親がAndroidで子がiPhoneで子供...
-
ボタンが2つだけのデジタル時...
-
AndroidのAPN設定をいじってい...
-
東横線のQシート、供給過多なの...
-
WAKWAKメールのIMAP設定方法を...
-
JCOM利用で、TVを買い替えする...
-
OLYMPUSの日付について教えて欲...
-
叶姉妹って本当に金持ちなんで...
-
アウトルックですが、既読なの...
-
振動試験の掃引の条件設定について
-
「設定してほしい」と「設定さ...
-
字数÷400=枚数ではないんです...
-
群像新人賞は原稿用紙設定から...
-
Googleナビで高速に乗って遠出...
-
固定電話の留守電設定について
-
LINEのバックアップでGoogleを...
-
PUBGモバイルについてです。 最...
-
パナソニックポータブルテレビ...
-
トレイルカメラの説明書で分か...
-
セルスター ARG10A
おすすめ情報