電子天秤のメモリ

　デジタル表示の電子天秤は測定限界以下の数字をどう処理しているのでしょうか？
　例えば、15.559 gのものを測る際に、天秤のメモリが小数点以下第2位までだった場合、15.55と表示されるのでしょうか、それとも15.56と表示されるのでしょうか？
　メーカーによって違ったりするのかもしれませんが、一般的にどちらの方法が使われているのかをご存知の方、教えてください。

No.3 ベストアンサー 回答者： doc_sunday 回答日時： 2005/07/24 10:39

一般に「定義」からデジタル表示での最後の桁は１デジット上下するのが基本です。

まずこれを先に覚えておいてください、つまり「揺らぎがなくてはならない」のです。
本来は15.555から15.56499999…の表示は15.56に、15.545から15.554999999…の表示は15.55に表示する「ことになっている」のです。

簡単にいうと四捨五入ですが、それと違うのは15.555付近のものをはかるとデジットが「頻繁に切り替わる」のが「正しい」ということです。

この回答へのお礼

あーなるほど、電子天秤で頻繁に表示が切り替わるのはそのためでしたか、勉強になりました。
詳しいご回答ありがとうございました。

お礼日時：2005/07/25 01:09

No.2 回答者： noname#21649 回答日時： 2005/07/24 03:24

メーカーによっては.JIS規格の四捨五入を使っている場合があります。

メーカーによっては算術の四捨五入を使っている場合があります。
どちらを使っているかは.製造メーカーに聞いてみないとわかりません。

この回答へのお礼

ご回答ありがとうございました。

お礼日時：2005/07/25 01:07

No.1 回答者： Josquin 回答日時： 2005/07/23 22:34

一般的には四捨五入です。

この回答へのお礼

ご回答ありがとうございました。

お礼日時：2005/07/25 01:07