No.1ベストアンサー
- 回答日時:
例えば、円周率を考えてみてください。
小数点以下の数字が果てしなく続いています。果てしなく続いている性質そのままの円周率を扱うのが理論計算です。
紙と鉛筆でできるが、コンピュータにはできない計算です。
一方、円周率を数値計算で扱う、つまり、コンピュータで扱うときは、メモリの容量が有限ですので、小数点以下のどこかの桁で切らなければなりません。
どの桁で切るかは、普通は、プログラム言語で、いくつかある選択肢の中から精度を指定することで決まります。
すると、数値計算の計算値では、理論計算の計算値に対して、非常にわずかですが、誤差を生じます。
数値計算を多数回繰り返すと、このわずかな誤差が蓄積して、目に見える大きな差となって出てくることがあります。数値計算の手順を工夫することで、この誤差の蓄積の程度を緩和することができます。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 糖尿病・高血圧・成人病 血液検査の実測値と理論値との相違 1 2022/10/06 09:31
- 物理学 RC直列回路の実験で理論値と測定値の時定数を計算した結果±12%と大きな誤差が生じたのですがその原因 3 2022/09/29 22:32
- 化学 有効数字の取り扱いについて 高校化学では、測定値同士の計算結果の有効数字は、測定値に合わせるようにな 4 2022/06/30 14:07
- その他(Microsoft Office) Excelで時間計算(負) 8 2023/02/26 05:47
- 大学院 修士論文の過ちを報告した際 2 2023/03/30 20:55
- Java java 入力された文字列を数値に置き換えて整数にし、計算をしたいです。 <を10として /を1とし 4 2022/05/16 21:08
- 数学 実数であるべきものに虚数を含む複素数が現れたときの対処法 4 2022/08/30 09:19
- 建設業・製造業 土量算出 3 2022/09/26 19:57
- Excel(エクセル) エクセル 自動計算 1 2023/01/30 13:28
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
10^0.2 = 1.58489319246111の計...
-
1512の1/5乗
-
信頼区間90%は何σ?
-
倍率とデシベルの計算式
-
減少率計算式教えて下さい
-
2次関数って何の仕事で必要な...
-
らせんRの計算の仕方
-
1.01の12乗の計算
-
「評価する」とは?
-
小数点の誤差をなくすのは可能...
-
100の101乗と101の100乗ではど...
-
数学ができる貴方はどのような...
-
常用対数の求め方 log10の2は約...
-
log2の近似値を小数点以下第四...
-
2の128乗の計算方法
-
直感では「ウソだろ!」と思う...
-
30分の1秒とは
-
電力ケーブルのインピーダンス...
-
重量偏差試験で使う数式
-
電卓の機能の名称が分からない...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
2の128乗の計算方法
-
libre 表計算ソフトの計算がう...
-
信頼区間90%は何σ?
-
3割の計算
-
減少率計算式教えて下さい
-
倍率とデシベルの計算式
-
1.01の12乗の計算
-
らせんRの計算の仕方
-
中3の有効数字の範囲の問題で √...
-
電力ケーブルのインピーダンス...
-
◯分を時間になおすと
-
常用対数の求め方 log10の2は約...
-
10^0.2 = 1.58489319246111の計...
-
「再帰的」の意味を教えてください
-
出来高の計算
-
2次関数って何の仕事で必要な...
-
実生活で役に立つ数学ってあり...
-
「評価する」とは?
-
電卓の機能の名称が分からない...
-
円周率の計算式って何ですか?
おすすめ情報