情報理論：bitと情報量の尺度について

bitという単位を使ってて、思ったことがあります。1.5bitは存在しますか？他には0bitも存在しますか？また、∞bit,負のbit、Πbitのような無理数bitも存在しますか？存在するであれば、どのような状態なのか教えてください。あと、1+2ibitという複素数bitが存在できないことはわかっているのですが、どうしてなのでしょうか？
次に、尺度には、名義尺度、順序尺度、間隔尺度、比例尺度、絶対尺度がありますが情報量はどの尺度に属するのでしょうか？

No.3 ベストアンサー 回答者： tatsumi01 回答日時： 2006/01/27 10:13

情報量の単位は「シャノン」ですが、「ビット」を使うことも多いでしょう。

情報量は確率の対数の平均値ですので、小数点以下の数値も意味を持ちます。だだし、負にはならないでしょうし、複素数も？です。
「ビット」は本来は桁数の単位ですから整数です。しかし、１０進数や３進数で表される数値があって、それを２進数換算で考えるときは小数になることもあるでしょう。また、ビットで表現されている桁数がいくつかあって、その平均を考える場合は小数にもなります。
尺度については良くわかりませんが、絶対尺度に属するのではないでしょうか。

参考URL：http://www001.upp.so-net.ne.jp/yasuaki/misc/cult …

No.5 回答者： nadja 回答日時： 2006/01/27 23:48

bitは「binary digit」の略です。

意味は「2のべき乗の数」みたいな意味です。

だからもし自然数「3」をべき乗であらわしたら「2^{log_2(3)}」になるはずです。ちなみにlog_2(3)は実数ですね。また「0.25」をべき乗であらわすと「2^{log_2(0.25)}」でlog_2(0.24)=-2になります。

尺度に関して、、、、、名義尺度、順序尺度、間隔尺度、比例尺度、絶対尺度,,,,この専門用語の確かな意味がわからないので、判断しかねますが、普通は「比例関係」しか気にしていないので、多分「比例尺度」ということになるでしょう。「あの情報量はこの情報量の3倍だ」とはよく聞くけど、、、、、

それと「エントロピー」というものを聞いたことはありますか？

No.4 回答者： tatsumi01 回答日時： 2006/01/27 10:19

No. 3 ですが補足します。

「１０進数や３進数で表される数値があって、それを２進数換算で考えるときは小数になる」
というのは、例えば１０進数４桁の数値があるとします。
この場合の桁数は（１０進の）４ディジットです。ビットに換算すれば、３．３×４＝１３．２ビットになります。

No.2 回答者： Josquin 回答日時： 2006/01/27 09:38

すみません。

下記の回答
10^0.5 は 1.5桁と考えられます。
したがって、2^0.5 は 1.5bit と考えてもいいでしょう。
かな？

・・・自信なしですので、念のため。

No.1 回答者： Josquin 回答日時： 2006/01/27 09:35

bitというのは桁数でしょう？

普通、桁数は自然数ですが、0bitや∞bitは考えられます（存在するかというと「？」です）。
わかりやすいように１０進数で考えてみればよいと思います。
0桁や∞桁というものは考えられるでしょう？

１０進数の指数で、10^0は１桁、10^1は２桁、10^2は３桁・・・なので、
10^1.5 は 1.5桁と考えられます。
したがって、2^1.5 は 1.5bit と考えてもいいでしょう。
さらには、指数部分が無理数であってもかまいません。

これで考えると、負のbitは小数を表すのでは？
そうすると、複素数乗は sin cos を使って表せるのではないかという気もします。

尺度についてはわかりません。