プロが教えるわが家の防犯対策術!

エントロピーを求めたい

エントロピー(平均情報量)の求め方ついて教えてください。

表の出る確率が2/3のコインを2回なげて表の出た枚数を確率変数Xとする.このとき,XのエントロピーH(X)は何ビットか.小数点以下3桁まで求める.

考え方など教えていただけましたら嬉しいです。
よろしくお願いします。

A 回答 (1件)

あるコインを投げたときに表が出る確率を p、裏が出る確率を 1-p とする。

このコインを投げたときに得られる平均情報量(エントロピー)は、

H(X)=-plog p-(1-p)log (1-p)
H(2)=-4/9log 4/9-(1-4/9)log (1-4/9)=-4/9log4+4/9log9-5/9log5+5/9log9
=-8/9+2log3-5/9log5=-0.889+3.170-1.290=0.991
H(1)=-2/3log 2/3-(1-2/3)log (1-2/3)=-2/3+2/3log3+1/3log3
=-0.667+1.057+0.528=0.918
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!

このQ&Aを見た人はこんなQ&Aも見ています


このQ&Aを見た人がよく見るQ&A

人気Q&Aランキング