No.7ベストアンサー
- 回答日時:
返事遅れてしまいました。
「アルゴリズム」とは「計算方法」、かっこ付けて言うと、「算法」のことです。「計算ロジック」と言ってもいいでしょう。
そのエクセルのデータは、あなた自身、または、他の方の計算結果だと思うんです。そうでければ、そんな中途半端な数字にならないはずです。ですから、
1)その計算方法自体に誤りがある。
2)計算方法自体は正しいのだが、計算の過程で丸め誤差と思われる誤差がやむを得ずに生じて、「2.54191E-46」のような数字が残った。本来は=0になるはずである。(「丸め誤差」だけではなく、「打ち切り誤差」もあるかもしれない)
の何れが原因な訳ですよね?私は2)が原因ではないかと想像したのですが、もしそうでないとするなら、1)しかないという理屈です。
--------------------------------
尚、蛇足ながら、丸め誤差が生ずる一番簡単な例を挙げておきます。
a = 1.0/3.0 * 3.0 - 1.0..............Equ1)
なる計算を考えましょう。数学的には「a=0.0」になるはずです。しかし、計算機上では、「1.0/3.0」が正確に1/3にならないので、この計算をしても「a=0.0」になるとは限らないのです。勿論、「最適化」が働いたりして、計算の順序が変われば、厳密に「a=0.0」になるかも知れないですが、途中で変数に代入すると、式どおりの計算順序になります。これは、Excelだろうが、C++だろうが、Fortranだろうが同じです。興味があれば試してください。
□プログラミングの教科書:
何を勉強したいのかで答えは全く異なってきます。
No.6
- 回答日時:
すいません。
訂正します。数値の異常な小ささから考えて、「丸め誤差」の可能性の方が大きいです。
たとえば、連立一次方程式をガウスジョルダン法で解くと、本来=0になるはずなのに、「丸め誤差」の影響によってこのような小さな値が残ることがあります。
同じ連立一次方程式の数値解法でもガウスザイデル法は反復法であり、その計算結果は「丸め誤差」と「打ち切り誤差」が重なっており、普通は後者の方が大きいです。
No.5
- 回答日時:
「丸め」(=Round off)とは、少数点以下第何位まで採用するかということです。
よく間違えられますが、「四捨五入」だけでなく、「切り捨て」や「切り上げ」も「丸め」です。Excelでの具体的な「丸め」操作は最近使ってないので忘れましたが、触れば分かるはずです。
言葉足らずでしたが、「丸め誤差」と「打ち切り誤差」は全く別物で、後者は解析的に解けない問題を数値解析的反復解法や級数展開で求めようとした時、途中で「収束」と判断した段階で、処理を抜ける訳ですが、この時発生する誤差のことです。「許容誤差=ε」によって、本来=0になるべきなのに「2.54191E-46 」のような中途半端に小さい数値が残るのが普通です。今回の問題もおそらく、そんな計算結果ではないのでしょうか?
もし、そうでないとするなら、アルゴリズムの間違いかもしれません。
この回答への補足
メッセージありがとうございます。アルゴリズムと言うことばは、プログラミング用語ですか?
プログラミングの本で、良い本ありますか?
No.4
- 回答日時:
ponntaさんの答えで正しいです。
おそらく何らかの計算をした結果でしょう。浮動小数点演算だと、
1)浮動小数点のBit数の制限から来る計算に伴う丸め誤差
2)反復計算などを途中で打ち切ることによって生ずる打ち切り誤差
が不可避的に付きまといます。
ですから、上の2つの数字は実際には=0と思ってください。Excelには「丸め」の機能がるので気になるなら消すことも出来ます。
No.3
- 回答日時:
どのような状況でその数値が出てきたのかは分かりませんが、エクセル特有というよりは、数学的な話です。
たとえば、
1.01E-01→1.01/10
1.01E-02→1.01/100
というような数値が分かりやすいでしょうか。
つまり、指数を表すもので、
1.14774E-27 →1.14774/10^27(10の27乗)
2.54191E-46 →2.54191/10^46(10の46乗)
となり、小数点以下を延々と表すよりは楽ですよね。
これくらいで、お分かりいただけたでしょうか?
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- Excel(エクセル) マクロの保存先、開いてるすべてのブックの意味 エクセルを開き、表示→マクロ→マクロの表示と順番に開く 3 2022/06/25 17:52
- Excel(エクセル) エクセル関数をご教授ください。 2 2023/08/09 12:17
- Excel(エクセル) エクセル関数の質問 5 2022/04/20 09:46
- Excel(エクセル) Aフォルダにあるエクセルの表をBフォルダへ映したい【表題じだけする】 2 2023/08/24 06:41
- Excel(エクセル) エクセルデーターの並び替え 5 2022/08/06 09:59
- Excel(エクセル) Excel リンク先のエクセルファイルの削除 同時に行を削除したい 1 2022/11/29 16:20
- Excel(エクセル) エクセルの値を元に図形の色を変えたい 2 2022/05/11 01:37
- Excel(エクセル) エクセルVBA、ファイル名をセルの値で保存の方法を教えてください。 おそれいります。こちらで数々のエ 6 2023/06/30 22:17
- 教育学 エクセルで小数点以下を四捨五入について教えてください。 2 2023/04/05 17:33
- Excel(エクセル) エクセルで複数条件の重複チェック 3 2022/05/17 13:57
関連するカテゴリからQ&Aを探す
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
15%増しの計算方法
-
3分2の計算教えて下さい
-
ラジアン値を°′″(度・分・秒)...
-
指数計算 2^n-1
-
パーセントの計算
-
前年比の%の計算式を教えてく...
-
(かっこ)^2のかっこ内の符号を...
-
何通りかの計算で 7C4 の答えが...
-
数A 場合の数について
-
割引の計算を教えてください。
-
数学が苦手で今日から250日後っ...
-
2の365乗
-
自分が買い物した商品が何パー...
-
3割アップとは、どうのように...
-
πがついた整数と普通の整数って...
-
加法と減法の混じった計算 の...
-
パーセンテージの出し方
-
教えて下さい
-
割引や%引きの計算のやり方を教...
-
毎日10%ずつお金が増える時...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
15%増しの計算方法
-
前年比の%の計算式を教えてく...
-
パーセントの計算
-
3分2の計算教えて下さい
-
ラジアン値を°′″(度・分・秒)...
-
エクセルで関数計算後の値を数...
-
3割アップとは、どうのように...
-
何通りかの計算で 7C4 の答えが...
-
初歩的な計算式の問題です。
-
6畳間は何立方メートル?
-
数学がとにかくできません。知...
-
指数計算 2^n-1
-
計算式の答えまでの過程を教え...
-
一定倍したある数を元に戻すには?
-
250gを8割と2割に分けると
-
1÷無限=0ということは数(大き...
-
一日ずつ2倍の金額をもらい続...
-
算数で質問です よろしくお願い...
-
2の365乗
-
教えて下さい
おすすめ情報