電子書籍の厳選無料作品が豊富!

仕事で、あるデータを取り扱っています。

その際に、四捨五入して計算結果を出そうとしているのですが、その場合の表記方法に悩んでいます。

例えば、3桁で表記したい場合、『11.54 → 11.5 、10.36 → 10.4』とかにします。(敢えて書くまでもないですが・・・。)

しかし、そのデータが、『9.995』だった場合は、この結果を「3桁で表示させたい」と考えたとき、『10.0』とするのと『10.00』とするのは、どちらが正しいのでしょうか。

たまたま他の数値が上に上げたように『XX.X』なので、気分的には『10.0』の方が見栄えがよくていいのですが、例えば有効数字とかの数学的な見方からすると、どうでしょうか。(この数字を出すために用いた数字に3桁のものがあるため。)


また、『9.994・・・』という数字を四捨五入して『10.0』とするのは反則でしょうか。
(3桁での表示(4桁目で四捨五入)という考えから)


ご意見お聞かせください。 m(_ _)m

A 回答 (3件)

こんにちは!


設計として、数値を扱ってる立場での考え方で申し上げます。
出てきた数値が、10.0と10.00ではまったく違って捉えます。
10.0が10.09をネグった(有効数字)ものなのか、10.04を四捨五入したものか、が問題になる場面が多々あります。
他の数値との関連で、根拠が明確になっていれば、良いと思われますので、
ご質問の例では「10.00」が実際に扱われる時に、小数点以下2桁を必要とするのかどうかで変わります。
あくまで有効数字・・・・
ということなら、10.0で良いのではないでしょうか。

ちなみに、実際に解析で使用するときには、現在有効数字4桁で使用してますので、
#1さんの言われる表記で扱っています。
例でいえば、9.994→9.994×10^0  です。
    • good
    • 0

回答は今までの方のものであっています。

気になるのは、有効数字に従うのであれば、四捨五入はいいんですが、

>この数字を出すために用いた数字に3桁のものがある

となると、この有効数字 3 桁の数値に対し、四則演算を一回行なった結果でてくる数値の有効数字は 2 桁なんですが。そこで 3 桁にこだわっても数学的には意味はなく、この場合でしたら、2 桁までが意味があって、その後は、3 桁にしようと 4 桁にしようと、全く同じことなんですが。
    • good
    • 0

こんにちは。



有効数字を考えた場合は、指数表示を使って次のように表記するのが良いように思います。

11.54→1.15×10^1
10.36→1.04×10^1
9.995→1.00×10^1
9.994→9.99×10^0
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!