内部分解能とは？

http://www.aone.co.jp/fa/keiryo/weight_a/i-weigh …
重量計などに使われている内部分解能とはどういうことを
いうのでしょうか？
A/D変換ICの分解能とはまた別の意味で使われているようなんですが。
例えば16ビットのA/Dを使っていたとしても、内部分解能65535とは
いわないようです。

No.1 回答者： kouji_124 回答日時： 2008/05/22 19:05

A/D変換ICの分解能と意味は同じです。

ただ、A/D変換を行っている機器は演算処理を行う関係から、カタログには実際の分解能よりも小さい値を表記しています。

例えば、16ビットのA/Dを使っている場合、符号(＋、－)分の1ビットを抜いた１５ビットで数字を表現します。
ですので範囲としては32,767～-32,768と成りますが、入力範囲が10Kg～-10Kgの重量計(ロードセル)だった場合にそのまま計算してしまうと1カウントあたりの重さが305.185....mgと中途半端な値になってしまいます。

中途半端な値は演算時に誤差になってしまうので、10Kg～-10Kgの入力があった場合にA/D変換ICが31,250～-31,250の値が出力されるように調整する事で1カウント辺りの重さが320mgになり演算し易くなります。