EXCEL2003を使っていますが、ふとしたことで気になることがあります。
下記のような簡単な計算とコピー作業なのですがコピーした値がおかしいのです。
・セルA1に420.2を入力する。
・セルB1に420.3を入力する。
・セルC1に =A1-B1 の計算式を入れる。
・セルD1にC1のコピーを形式選択貼り付けで”値”のみ貼り付けする。
すると、セルD1には-0.1が表示されるのですが、ワークシート上段の普段入力とかをするエリアには-0.100000000000023が表示されています。
普通は別に困らないのですが、計算結果が-0.2とかになると-0.199999999999989になりヒストグラム等では頻度のカウントがひとつ繰り上がってしまいます。
(値コピー先ではなく計算結果でヒストグラムをとっても同じ結果になります。)
Officeのヘルプも一応見てみたのですが、検索文言がややこしくて見つけられませんでした。簡単なことを見逃しているかも知れませんがアドバイスお願いします。
A 回答 (2件)
- 最新から表示
- 回答順に表示
No.2
- 回答日時:
こんばんは!
すでにNo.1さんの方で回答が出ていると思います。
浮動小数点の影響ですね!
時間の計算等でも同様のことがおきる場合があります。
特に「0.1」などの場合、2進数で表した場合循環数値になってしまうみたいです。
一つの方法としてE4セルの数式を
=ROUND(D4-C4,5)
としてみるやり方もあるみたいですよ。
以上、参考になれば幸いです。m(__)m
ご回答ありがとうございました。
=ROUND(D4-C4,5)で解決できそうです。
でも EXCELでもこんなことがあるんですね。
助かりました。m(_ _)m
No.1
- 回答日時:
ご回答ありがとうございました。
参考文献ためになりました。計算は完璧だと思っていた
EXCELでこんなことが起こるとは思いもよりませんでした。
良い勉強になりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) エクセルVBAでセルに表示されているとおりの数値を取得したい(時間の計算結果) 1 2022/03/30 17:52
- Excel(エクセル) エクセルの関数式を教えてください。 2 2022/11/29 21:09
- Excel(エクセル) エクセルでIF関数中にIFERROR関数を使いたいのですが???? 5 2022/04/08 13:24
- Excel(エクセル) マクロだと数式が表示される 2 2022/09/10 14:48
- Excel(エクセル) 関数を用いて表示したセルの内容を、見えている形でコピーする方法 2 2022/09/14 16:36
- Excel(エクセル) Excelについて A1からA12まで、1月〜12月と入力し、 B1からB12の範囲に、C1とD1に 4 2022/05/26 22:48
- Excel(エクセル) シート参照を含む数式を連続コピー 3 2022/12/10 11:42
- Excel(エクセル) エクセルで、 A1セルに「A」という値、 B1セルに「B」という値が入っています。 どちらも表示形式 5 2023/02/22 23:05
- Excel(エクセル) 文字列を数式として変換する事はできますか? 6 2022/06/23 10:38
- Excel(エクセル) マクロVBA別Excelブックにデータ転記 2 2022/07/10 23:35
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
IF関数で、時間を条件にしたい...
-
エクセルの使い方 1日=7時間45...
-
ヘッダー
-
EXCELの関数に関する質問です
-
Excelの計算式内の文字列の一括...
-
AかBに入力があった時Cに反映、...
-
計算結果が「0」のセルだけを「...
-
数式の計算結果により表示され...
-
エクセルで、時間の計算をした...
-
エクセルで 足し算や割り算の...
-
エクセル・計算式をテキストデ...
-
エクセルの計算結果が0になって...
-
エクセルでの時間計算(2時間30...
-
TEXTCALCの使い方
-
エクセルでDeleteキーを...
-
excel 参照しているセルに色が...
-
エクセル 1万時間を越える際の...
-
EXCEL 2の100乗の計算はどう...
-
多項式の計算
-
エクセルで比率を計算
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ヘッダー
-
IF関数で、時間を条件にしたい...
-
エクセルの使い方 1日=7時間45...
-
計算結果が「0」のセルだけを「...
-
エクセルで、時間の計算をした...
-
数式の計算結果により表示され...
-
EXCELの関数に関する質問です
-
エクセルで 足し算や割り算の...
-
エクセルでの時間計算(2時間30...
-
excel 参照しているセルに色が...
-
Excelの計算式内の文字列の一括...
-
エクセル・計算式をテキストデ...
-
TEXTCALCの使い方
-
AかBに入力があった時Cに反映、...
-
Excel 関数? 文字列に...
-
エクセルの計算結果が0になって...
-
エクセル 月数を0.5ヶ月単位で...
-
エクセルで足し算と掛算を混ぜ...
-
エクセル 1万時間を越える際の...
-
エクセルで数値を50単位で切...
おすすめ情報