平均情報量の求め方がわからない

>1つの画素が0から255までの輝度値を持つ256諧調のk*lピクセルの白黒画像がn枚ある。
>ここから1枚の画像を選び、輝度値がi(0~255)となる画素数を数えると、
>それぞれci(i=0~255)であった。この画像の平均情報量はいくらか。k,l,ciにより表せ。

という問題に取り組んでいます。

各画素がある輝度値を持つ確率が1/256であることを使うと思うのですが、
どのように解けば良いかがわかりません。

この問題の解答について、ご教授よろしくお願いいたします。

質問者からの補足コメント

• ご回答いただきありがとうございます。
  問題文が長く、要約したため、問題として不自然なものになってしまったようです。
  問題文全文を掲載いたしますので、ご確認いただけますと幸いです。
  
  よろしくお願いいたします。

  
    補足日時：2020/06/21 00:13

No.3 回答者： stomachman 回答日時： 2020/06/21 22:17

No.2です。

補足を拝見して、これは（質問者氏が要約したせいではなくて）元々変な問題であるということを確認いたしました。出題者は情報量という概念をコンポンテキに勘違いしているんじゃないでしょうか。

　小問1: n枚の画像があらかじめ与えられているのですから、「それらn枚のうちからこの1枚の画像を選んだ」ということを記述する（通信で知らせる）のに必要なのは何bitか、という話だとしか解釈できませんね。「選ばれたのはこれらn枚の画像のうちのどれであるか」を指定するには（もちろん画素数だの階調数だのは何の関係もなくて）1〜nの整数をひとつ伝送すれば良い。仮に選ぶ確率がどの画像についても等しいなら、指定に必要なbit数が決まり、それはnがたまたま2の冪乗であればどの画像もlog nですし、そうでなければ、一連の画像にどう番号を割り振ったかによって1bitだけの違いが生じます。一方、選ばれ方に偏りがある（確率が一様でない）という一般の場合においては、もちろん最適に符号化することによって、選ばれる確率が大きい画像を選んだ場合にはもっと少ないbit数で、また、選ばれる確率が小さい画像を選んだ場合にはもっと多いbit数で伝達することになり、そして平均のbit数をlog nより小さくできます。で、その平均のbit数、それこそが平均情報量ってことです。
　しかし、小問1はそんなことは尋ねていませんで、何bitか、とだけ言っていて、すなわち符号長を尋ねている。大変に奇妙な問いです。確率分布や符号化、そしてどの画像が選ばれたかによってその答は変わるからです。答えられることを強いて考えてみますと、最小値は0bit（いつも同じ画像しか選ばれない場合）ですし、最大値が最小になるような符号化をすれば「選ぶ確率がどの画像についても等しい」場合と同じになりますし、最悪の場合には(n-1)bitになりましょう。
　小問2と小問3はそもそも意味をなしません。

　出題者の思惑を想像してみると、「画素値を生成する未知の確率過程があって、それによって生成された各画素の画素値が互いに独立だとすると、画素全部の平均情報量はいくらか」というような話をしたかったんでしょうかね。その場合、ある値を持つ画素の数を数える（=頻度表を作る）ことは、この確率過程が生成する画素値の分布を（サンプリングで近似的に）調べることになる、という積もりだったんでしょうか。ま、各画素の画素値が互いに独立な画像ってのは、ただのノイズみたいな代物ですが。あー、いや、それだと「n枚」が出てくる理由がないなあ。（どうせただの推測ですから、気にせんでください。）

No.2 回答者： stomachman 回答日時： 2020/06/20 21:54

変な問題だなー。

「1枚の画像を選」ぶと、この特定の画像はこの画像そのもの以外の何物でもなく、したがって確率なんか出る幕がないんだから、「この画像の平均情報量」なんて定義すらできんでしょ。それに、nはどうなった？
ご質問を書く際に、何か肝心な前提を端折ったのではないかしらん？

No.1 回答者： Tacosan 回答日時： 2020/06/20 20:29

「各画素がある輝度値を持つ確率が1/256である」がどこから出てきたのかさっぱりわからんけど, 「平均情報量」の定義に突っ込めばい

いのでは?