dポイントプレゼントキャンペーン実施中！

有効数字　相対誤差

締切済

  • 質問者：yellow_peril
  • 質問日時：
  • 回答数：1件

いまプログラムを組んでいてある方程式のxを有効数字６桁で求めるのですが、なぜこのｘの相対誤差が10^-6より小さくなれば有効数字６桁で求めたことになるのかが理解できません。

お教えください。よろしくおねがいします。

通報する

この質問への回答は締め切られました。

質問の本文を隠す

A 回答 (1件)

No.1

  • 回答者： FEX2053
  • 回答日時：

通常、コンピュータ内の数値計算は浮動小数点で行いますでしょ


http://ja.wikipedia.org/wiki/%E6%B5%AE%E5%8B%95% …

ですので数値は（非ゼロの場合）

A × 10 ^ (-n)　　ただし 1<A<9.999999

で扱いますでしょ？　だからです。
    • good
    • 0
    • 件
通報する

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう！

Q質問する（無料）

ページトップページトップ

Q質問する（無料）

デイリーランキングこのカテゴリの人気デイリーQ&Aランキング

マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング

おすすめ情報