No.1
- 回答日時:
確かにおかしいですね。
ちょっと調べてみました。で、分かったことですが、
-22.1-16.4+39.3 の段階で本来は"0.8"のはずが、内部的には "0.799999999999997"という値になっているみたいで、これが原因のようです。
なぜ、内部の値がこんな値になっているのかはわかりませんが。
※コンピュータが計算する場合、実際は2進数(0と1のみの世界)で計算しているので、そのために(特に小数の場合)誤差が出ているのかも知れませんね。
さっそくの回答ありがとうございます。自分の式にミスがあったわけではなさそうですね。回答文を読んで僕の力ではどうしようもない印象を受け、ホッとしています。他の方の意見も伺ってみたいで締め切るのは少し後にしようと思います。
No.2ベストアンサー
- 回答日時:
セルの書式を「標準」から「数値」にすると、どちらも「0」になりました。
#1hinebotさんの解答が出ていますが、これもご説明を出きればお願いします。書式には特に不自由がないかぎり気にもしてなかったのですが、こんなところにも違いがでるなんて!僕にとってはすごい発見です。簡単な表計算でも気をつかうことがあるんですね。ありがとうございました。
No.3
- 回答日時:
とりあえず検索はしてみたのですが、、、BlueRayさんの質問を拝見しましたが、ぼくの質問と同じ内容だと指摘されても、そうなのかなぁーと。ちょっと僕にはついていけるレベルではないようです。いつか理解できるように勉強したいと思います。ありがとうございました。
No.4
- 回答日時:
面白いですね。
この程度で2進数の丸め誤差が出るのは意外でした。セルの書式設定で表示形式の数値を選ぶと正しくゼロになりました。1/3に3をかけてちゃんと1となるのに。いくつかWebを調べてみたら、Excelは内部的に2進数で計算しているので(あたりまえですが)、2進数で循環小数になってしまうような値(例えば10進数の0.1)が入る式は要注意だそうです。この辺は、しっかりしたメーカ製の電卓のほうが対策をとっているでしょう。2進数で循環小数になってしまうような値(0.1)が入る式というのは僕の質問の式にも入っていますね。ちょっと実験して遊んでみようと思います。どうもありがとうございました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) 表計算ソフトcalcにおいて、1時間10分を1.1と表記する方法とそれらを集計する方法は? 4 2022/04/06 16:54
- Excel(エクセル) エクセル、日々の集計整理方法。(再送です。) 5 2022/10/02 00:19
- Excel(エクセル) エクセルの表示形式について教えてください あるセルの「A」という値と、別のセルの「B」という値を組み 4 2023/02/21 21:55
- Excel(エクセル) エクセルのSUM関数について 4 2023/04/18 10:37
- Excel(エクセル) エクセルのセルの書式設定・ユーザー定義の条件設定について 1 2022/08/17 21:56
- Excel(エクセル) IF 関数で「〇〇 という文字を含む場合」の分岐処理で表示された数字はSUMで数字集計できますか? 3 2022/08/02 16:29
- Excel(エクセル) 差し込み印刷がうまくいかない 2 2022/07/29 12:26
- Excel(エクセル) 電卓は正しいのに エクセルで計算させると間違った答えです。なぜ? 7 2022/08/11 07:04
- フィルムカメラ・インスタントカメラ 自販機の電光を撮影するとルーレット状に 3 2022/12/22 14:29
- Excel(エクセル) Excel(エクセル)でフィルター抽出後、非表示の行を計算しないで、合計を算出する方法 【内容】 添 4 2023/01/30 17:17
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
首吊りどこ締めるの
-
至急!尿検査前日にオナニーし...
-
腕を見たら黄色くなってる部分...
-
検便についてです。 便は取れた...
-
彼女のことが好きすぎて彼女の...
-
勃起する時って痛いんですか? ...
-
精子が黄色?
-
口の中に黒い血の塊
-
白血球が多いとどんな心配があ...
-
尿検査前日に自慰行為した時の...
-
中出しをするとお腹が痛い・・・。
-
精子に血が・・・
-
これって喉仏ですか? 私は女性...
-
爪が紫色?
-
納豆食べた後の尿の納豆臭は何故?
-
筋トレするとチンコが縮んじゃ...
-
射精をして1週間以内に尿検査を...
-
尿検査の前日は自慰控えたほう...
-
EXCELで式からグラフを描くには?
-
excelでsin二乗のやり方を教え...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
至急!尿検査前日にオナニーし...
-
首吊りどこ締めるの
-
尿検査の前日は自慰控えたほう...
-
尿検査前日に自慰行為した時の...
-
検便についてです。 便は取れた...
-
白血球が多いとどんな心配があ...
-
中出しをするとお腹が痛い・・・。
-
射精をして1週間以内に尿検査を...
-
彼女のことが好きすぎて彼女の...
-
腕を見たら黄色くなってる部分...
-
勃起する時って痛いんですか? ...
-
変な話しになります。尿検査で...
-
これって喉仏ですか? 私は女性...
-
EXCELで条件付き書式で空白セル...
-
男です。昨日の午後3時くらいに...
-
今朝、毎朝の習慣でオナニーし...
-
納豆食べた後の尿の納豆臭は何故?
-
1日前の検尿
-
値が入っているときだけ計算結...
-
精子が黄色?
おすすめ情報