条件付きエントロピーを求める展開式で、条件付き確率が1になるのがわかりません。

条件付きエントロピーを求める展開式で、条件付き確率が出てきます。事象ＸとＹで、標本点をそれぞれ、xi、yj とし、その同時確率を P( xi ∩ yj ) とした場合、
P( xi ∩ yj ) = P ( xi ) × P ( yj | xi ) までは理解できますが、
∑P( xi ∩ yj ) = ∑P ( xi ) × P ( yj | xi )　(j = 0, 1, 2...) とした場合、
なぜ、∑P ( yj | xi ) = 1　(j = 0, 1, 2...) となるのかが解りません。
条件付き確率の基本と思われますが、解りやすくお教えください。
よろしくお願いします。

No.1 ベストアンサー 回答者： drmuraberg 回答日時： 2018/02/24 18:45

同時確率、P( xi ∩ yj ) = P ( xi ) × P ( yj | xi )、 は事象Xiが

起きた時P ( xi )に事象Yjが起こる確率です。

そうすると、P ( yj | xi )　 (j = 0, 1, 2...)は一つの事象Xiに対し
可能な事象Yjが起こる確率と解釈できます。
つまり、一つの事象Xiに対して事象Yjの必ず一つが起こるとすれば、
定義として　∑P ( yj | xi ) = 1　(j = 0, 1, 2...)　となります。

仮に、ある一つの事象Xｚに対してYj以外のZなる事象が起こる場合には、
∑P ( yj | xi ) ≠ 1　となります。

ここでは「事象ＸとＹ」のみを考えているので、上の仮のケースは除外され、
常に∑P ( yj | xi ) = 1　が成立するとされています。

この回答へのお礼

早々のご返答、有難うございます。お蔭様で、だんだんイメージが湧いてきました。重ねて質問させてください。今、全事象の場合の数を絶対値を用いて| U |で表現すると、
P( xi ∩ yj ) = P ( xi ) × P ( yj | xi )
| xi ∩ yj | / | U | = | Xi | / | U | × | yj | / | xi |
∑ | xi ∩ yj | / | U | = | Xi | / | U | × ∑ | yj | / | xi | (j = 0, 1, 2...)
ここで、| yj | が | xi | と等しいため、
結果的に P ( yj | xi ) = 1、と考えてよろしいでしょうか？
度々すいません。よろしくお願いいたします。

お礼日時：2018/02/25 12:48

No.2 回答者： drmuraberg 回答日時： 2018/02/25 15:47

考えてみました。

事象xiの数｜Xi|とするΣ｜Xi|⁼｜U｜　i=1・・m
事象yjの数｜Yj|とするΣ｜Yj|⁼｜V｜　i=1・・n
ここで、空事象xi,yjも考えれば m=n とすることができ、
一つの事象Xiに対して事象Yjの必ず一つが起き、
「事象Xiの総数と事象Yjの総数が等しければ＊」｜U｜⁼｜V｜。
（＊本当に正しいのか？）

P ( xi ) ⁼| Xi | / | U |
P ( yj | xi ) ⁼| Yj | / | Xi |**　　　　**正しいか？はなはだ疑問。

P( xi ∩ yi)=P ( xi ) × P ( yj | xi ) ＝| Xi | / | U |＊| Yj | / | Xi |
　　　　　⁼| Yj | / | U |

ΣP( xi ∩ yj)＝Σ| Yj | / | U |=| U |/| U |=1　　　j=1・・・n
とはなります。
しかし、＊と＊＊が正しいかは自信がありません。検証してください。

回答が付いていないようなので、錆びた杵柄を取ったまでです。
マルコフ過程を使っていたことが有ったので。他の方の援助を待ちましょう。
悪しからず。

この回答へのお礼

ご返答、有難うございました。
だいぶイメージが出来るようになりました。
ちなみに。このような内容が書かれている書籍やホームページをご存知ならばお教えください。よろしくお願いいます。

お礼日時：2018/02/25 19:07