有効数字について。

もし途中の計算で出た値を別の計算で用いるとき、その途中の計算で出た値は、最終的な答えの有効数字＋1桁多くとり、後は切り捨てて計算するでいいのでしょうか？

No.2 回答者： konjii 回答日時： 2018/06/27 09:16

有効数字の桁数が分かっている時は、計算の途中で処理せずに計算の最後で有効数字の桁数で表します。

次の桁には曖昧な数を含むので、四捨五入などしてはいけません。切り捨てです。

この回答へのお礼

ありがとうございました。

お礼日時：2018/06/28 00:46

No.1 ベストアンサー 回答者： yhr2 回答日時： 2018/06/26 22:41

＞その途中の計算で出た値は、最終的な答えの有効数字＋1桁多くとり、後は切り捨てて計算するでいいのでしょうか？

「後は切り捨てて」ではなくて、「後は四捨五入で」ですね。

厳密には、「誤差」の伝搬やその影響を評価して決定する必要がありますが、「簡易評価」として「有効数字」で運用する場合には、そんな感じでよいと思います。
ただ、途中計算ではもう少し桁数を多くとっておいて、最終段階で有効数字 + 1 の桁を四捨五入する方がよいでしょうね。

「有効数字」という考え方は、厳密なものではなく、あくまで「簡易計算」です。

この回答へのお礼

ありがとうございました。

お礼日時：2018/06/28 00:46