プロが教える店舗&オフィスのセキュリティ対策術

PHメーターについて
最小メモリが0.1なので、有効数字は0.01だ
と言われたら例えば1.54の場合なんて答えればよろしいのでしょうか。

A 回答 (1件)

最小メモリ0.1なら


有効数字が云々と言われなくても 小数2位まで読み取ります

メモリが付いているので 1.5までは読み間違える人はほぼいません
最後の4はメモリがなく目分量なので、人によっては3と読む人がいるかもしれないし、5と読み取る人もいるかもしれませんが
たいていは1.53~1.55のいずれかに読み取る人が大多数のはずです
ということで、この場合小数2位には誤差が含まれます
(これが有効数字の意味で、一番右の位にはプラスマイナス1程度の誤差が含まれている)
しかしながら、一番右の桁を3や5にするよりは4にするほうが本当の数字に近いはずということで
1.54とするのが適切です(四捨五入とかの必要はありません)
    • good
    • 0
この回答へのお礼

なるほど!
とても分かりやすかったです!!
ご回答ありがとうございました(__)

お礼日時:2020/05/22 16:36

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!