プロが教える店舗&オフィスのセキュリティ対策術

112を有効数字2桁で表せって言われた場合、どうなりますか?
また120を有効数字2桁で表せって言われた場合は1.2×10^2となりますよね?
でも、120と同じ有効数字3桁なのに、112を有効数字2桁で表せと言われたとき「○.△×10^◇」の形で表せないですよね??

色々とよくわかっていない部分が多いのでやさしく教えて下さると助かります…!

質問者からの補足コメント

  • ちなみに、82.6-0.76=81.84 →81.8であってますか?

      補足日時:2018/05/22 19:49

A 回答 (4件)

112の有効数字2桁は


1. 1x10^2です。
    • good
    • 2

AN02を補足しておくと、ー般に測定では、測定器の最小目盛の


1/10までを目分量で読み取ります。このため、測定値の最下位は
士1程度の不確かさを持っています。しかし、ー桁減らすよりずっと
正確なので、その桁までを有効数字とします。

よくある解説で、有効数字が2桁なら
1.1は1.05~1.1499・・・まで、というような
解説が有りますが、実際は1.0~1.2くらい、
場合によってはもっと不確かになります。

でも、桁が長い方がより正確なら、長い方を採用する。
これが有効数字の基本的な考え方で、最下位の数字を
絶対的に保証するのでは有りません。
    • good
    • 0

>となるので、81.7〜81.8までの値を取る可能性があるので、


>最後が8になるかは保証されない。
>81までは保証される値

81は81.8より誤差がずっと大きいのは明らか。

最後の数字のぶれは、真値の中心がずれると何時でも起こりうる
ので、そのたびにー桁減らしてはだめ。JISでも
有効数字の最後の桁は不確定な桁とされている。

JISK0211の手順に従おう。
    • good
    • 0

112を有効数字2桁で表すなら、1.1✕10^2


だけど3桁の結果が出てるのに、1桁目を無視するなんてことは普通はしないし、そんな問題出たら出題者の頭がおかしい

>82.6-0.76=81.84 →81.8であってますか?

あってない
82.6の最後の桁は四捨五入された値
同様に0.76の最後の6も四捨五入された値

82.64-0.755 = 81.885
82.55-0.764 = 81.786

となるので、81.7〜81.8までの値を取る可能性があるので、最後が8になるかは保証されない。
81までは保証される値
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています