
No.2ベストアンサー
- 回答日時:
Execelのバージョンによっても、結果が違うようです。
手持ちのパソコンでExcel2003とExcel2013について、mod(1.3,1.3)からmod(13,1.3)まで被除数を1.3刻みで(商が1から10まで)調べてみたところ、正しく0と表示されたのは、どちらも商が1を含む2のべき乗(1,2,4,8)となる場合だけでした。
それ以外の場合、Excel2003では、-2.22045-E16(商が3と5の場合)、-4.44089-E16(商が6と10の場合)、-6.66134-E16(商が7の場合)、-1.11022-E15(商が9の場合)と表示されました。
一方Excel2013では、商が1.2.4.8以外のすべての場合には、ご質問のように1.3が表示されました。
余りと除数が同一ということでおかしいと気付くべきかもしれませんが、Excel2013のように「一見もっともらしい数値」を返されるよりも、昔のExcel2003のように明らかにコンピューター内部の計算誤差を示唆する数値を返してもらった方が、個人的にはありがたいと思います。
なおLinux系OSで使用している別の表計算ソフト「LibreOffice Calc(バージョン4.0.2.2)」ではすべて正しく0と表示されました。
No.1
- 回答日時:
コンピュータ(Excel)の内部では、小数は浮動小数点を持つ数値として扱われます。
2進数の小数なんかで表せるような数値はおおむね正確な値で保持されますが、
(1/2=0.5、3/4=0.75、5/32=0.15625とか)
1.3とかって数値は、コンピュータの内部では正確な値として保持されないです。
その結果、
Excel で浮動小数点演算の結果が正しくない場合がある
http://support.microsoft.com/kb/78113/ja
の記事にあるような計算誤差が出るって事になります。
10進数の計算だと、
1/3=0.333333333333333…
1/3×3=0.999999999999999…
になるみたいな。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 数学 p を奇素数 ((b) は p≠5) とするとき, 以下の同値関係を示せ. (a) (-2/p) = 3 2022/07/03 16:35
- 数学 大学数学 「条件:t進表現において、何乗しても右から2桁が変わらない2桁の自然数が存在する。」 上記 7 2023/06/28 22:25
- 工学 疑似乱数生成器 3 2023/01/05 02:06
- Excel(エクセル) 数列の数値補間 2 2022/10/27 16:38
- Excel(エクセル) Excelマクロの表示のExcel内をfindで検索 3 2022/06/15 20:07
- JavaScript 助けてください‼︎ javascriptで質問があります。 配列を定義して、 29342、45342 3 2022/06/26 22:06
- Excel(エクセル) Excel 参照元の値を参照したい 1 2022/08/20 18:58
- 統計学 偏差値と割合の関数について 4 2023/05/25 11:50
- 数学 数学の問題です。 問1: ある(人数の非常に多い)集団から無作為に6名を選んで身長を測ったところ、そ 2 2022/12/09 12:03
- JavaScript カラーミーショップのsectionループ内で、[引数][戻り値]ありの関数的な処理を行いたいです。 1 2022/05/07 19:39
このQ&Aを見た人はこんなQ&Aも見ています
関連するカテゴリからQ&Aを探す
おすすめ情報
このQ&Aを見た人がよく見るQ&A
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
首吊りどこ締めるの
-
彼女のことが好きすぎて彼女の...
-
風俗店へ行く前のご飯
-
検便についてです。 便は取れた...
-
尿検査前日に自慰行為した時の...
-
イタリアから帰国する際、肉製...
-
勃起する時って痛いんですか? ...
-
精子に血が・・・
-
EXCELで式からグラフを描くには?
-
ボタン電池の付いていないマザ...
-
至急です。 今日アルバイト中に...
-
納豆食べた後の尿の納豆臭は何故?
-
エクセルで空白セルを含む列の...
-
ある範囲のセルから任意の値を...
-
病院側から早く来てくださいと...
-
最近、飲酒すると手のひらが真...
-
【Excelで「正弦波」のグラフを...
-
Excel関数:本日以降(以前)の...
-
値が入っているときだけ計算結...
-
四字熟語で“検”の字が入る四字...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
首吊りどこ締めるの
-
彼女のことが好きすぎて彼女の...
-
イタリアから帰国する際、肉製...
-
2つの数値のうち、数値が小さい...
-
健否~書類の書き方~
-
VLOOKUP関数を使用時、検索する...
-
値が入っているときだけ計算結...
-
小数点以下を繰り上げたものを...
-
エクセルで空白セルを含む列の...
-
EXCELで条件付き書式で空白セル...
-
リンク先のファイルを開かなく...
-
ある範囲のセルから任意の値を...
-
精子に血が・・・
-
エクセルで数式の答えを数値と...
-
風俗店へ行く前のご飯
-
エクセル指定した範囲からラン...
-
一番多く表示のある値(文字列...
-
Excel 数値の前の「 ' 」を一括...
-
ワードのページ番号をもっと下...
-
MIN関数で空白セルを無視したい...
おすすめ情報