No.1ベストアンサー
- 回答日時:
計算機は無限の精度の数値を扱うことができません。
実数といっても、たかだか 64 bit の2進数として扱う程度です。これを超える
部分は、四捨五入や切り上げ、切り下げをするしかありますが、こ
のことを「丸め」といいます。丸めによって生じた誤差を丸め誤差
といいます。
明示的に丸めた場合に丸め誤差が生じるのは明らかですが、暗黙の
うちに丸めが行われる場合も多々あります。計算機の扱う2進数の
実数と人間の扱う10進数の実数の変換をすると、循環少数が現れる
ことが避けられません。このためどうしても丸めが起きてしまうの
です。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 信頼区間についての質問です。 6 2023/06/25 17:34
- 物理学 時間を語るなら、(複数の時間の正体)を知る必要が有る。 1 2023/02/16 22:14
- 日本語 〈場所を示す「に」と「で」〉 という誤り 36 2022/11/12 15:04
- 統計学 加重最小二乗法=①「変数を自然対数変換」=②「誤差項の分散の逆数を重み付け」? 8 2022/11/26 11:15
- 物理学 時定数で実験で求めた値と理論値に誤差が生じる理由はなんですか?自分は実験で使用した抵抗やコンデンサの 3 2022/09/26 11:32
- 統計学 統計学を独学で勉強してます。 ページ左上に誤差分散の推定量の指揮があると思いますが(青いペン) 例題 2 2023/02/12 12:34
- 統計学 統計学を独学で勉強してます。 ページ左上に誤差分散の推定量の指揮があると思いますが(青いペン) 例題 5 2023/02/12 15:39
- 英語 ”be”<動詞>と<助動詞>混同の誤り ― 形式主義文法論の混迷 12 2022/05/17 11:09
- 日本語 自立語/付属語という品詞区分の誤り 5 2022/09/05 00:20
- その他(教育・科学・学問) 計測器について、適用可能な製品公差が標準ノギスでは0.3mm以上とありますが、詳しい方分かりやすく説 4 2022/11/21 12:05
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
至急!尿検査前日にオナニーし...
-
首吊りどこ締めるの
-
尿検査の前日は自慰控えたほう...
-
尿検査前日に自慰行為した時の...
-
1日前の検尿
-
腕を見たら黄色くなってる部分...
-
変な話しになります。尿検査で...
-
値が入っているときだけ計算結...
-
射精をして1週間以内に尿検査を...
-
これって喉仏ですか? 私は女性...
-
検便についてです。 便は取れた...
-
今朝、毎朝の習慣でオナニーし...
-
彼女のことが好きすぎて彼女の...
-
白血球が多いとどんな心配があ...
-
2つの数値のうち、数値が小さい...
-
エクセルでエラーが出て困って...
-
ある範囲のセルから任意の値を...
-
EXCELで条件付き書式で空白セル...
-
口の中に黒い血の塊
-
勃起する時って痛いんですか? ...
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
首吊りどこ締めるの
-
中出しをするとお腹が痛い・・・。
-
麻疹風疹の抗体検査結果につい...
-
エクセルでエラーが出て困って...
-
白血球が多いとどんな心配があ...
-
彼女のことが好きすぎて彼女の...
-
検便についてです。 便は取れた...
-
勃起する時って痛いんですか? ...
-
至急!尿検査前日にオナニーし...
-
納豆食べた後の尿の納豆臭は何故?
-
これって喉仏ですか? 私は女性...
-
EXCELで条件付き書式で空白セル...
-
精子が黄色?
-
小数点以下を繰り上げたものを...
-
値が入っているときだけ計算結...
-
口の中に黒い血の塊
-
健否~書類の書き方~
-
甲状腺が腫れているが血液検査...
-
はしかの抗体検査は何科の病院...
-
テスターで断線を調べる方法教...
おすすめ情報