次の行列であらわされる正規マルコフ情報源のエントロピーを計算せよ、という課題を出されました
(すでに回収も終わっているのでカンニングにはなりません、念のため)
P=| 0.2 0 0.8 |
| 0.4 0.6 0 |
| 0 0.3 0.7 |
まず定常確率を求めたのですが求まった定常確率が間違っていたようなのです。
以下に求める際に用いた式を載せますので間違っている点があればご教授ください。
また、その後のエントロピーの計算に関しても経過と答えを載せてほしいです。
P(0)=0.2P(0)+0.8P(2)
P(1)=0.6P(1)+0.4P(0)
P(2)=0.7P(2)+0.3P(1)
P(0)+P(1)+P(2)=1
この式を解くと各値が1/3となりました。
最後に私はこの辺をあまり理解できていないため質問文にも至らないところが多々あると思います。
そのようなことがあれば補足欄で説明したいと思います。
No.2ベストアンサー
- 回答日時:
> 定常確率に関して
> 口頭で各値が1/3に~なったと説明したところ教授にそれは違うと否定されていたんです。1/3で合っていたなら何故否定されたのでしょう?
状態確率が列ベクトルでなく行ベクトルなのです.だから,解くべき方程式は P x = x でなくて x P = x です.これを sum x = 1 のもとで解くと x = [3 6 8]/17 です.
状態確率が行ベクトルらしいことは,P を見てわかります.行ベクトルなら,ある状態,たとえば状態 1 にいると,次の状態が 1 である確率が 0.2,2 である確率が 0,3 である確率が 0.8 で,合計が 1 になります.もし列ベクトルだったら,たとえば状態 1 にいると,次の状態が 1 である確率が 0.2,2 である確率が 0.4,3 である確率が 0 になってしまい,合計が 1 になりません.
No.3
- 回答日時:
ANo.1のコメントについてです。
No.2でのご指摘の通り、数値を見れば行列かベクトルかどっちかが転置されてるのは明らかでしたね。御質問の計算にうっかりつられちゃいました。たはは。
No.1
- 回答日時:
仮にご質問のPがマルコフ過程の遷移確率行列のことだとすると、行列Pの第(i+1)行(j+1)列は、「ある時出力された信号がiであったときに、その次の信号がjになる条件付き確率」P(j|i)を示しています。
一方、このマルコフ過程の定常確率pはPp=p
となるようなベクトルp=(p(0), p(1), p(2))' (ただしp(0)+p(1)+p(2)=1。なお「'」は転置のこと)であり、行列Pとは区別しなくちゃいけません。(Pと書いたら×を喰らうでしょう。)
>P(0)=0.2P(0)+0.8P(2)
>P(1)=0.6P(1)+0.4P(0)
>P(2)=0.7P(2)+0.3P(1)
>P(0)+P(1)+P(2)=1
Pを別の文字に変えればOKですね。整理すると
p(0)-p(2) = 0
p(0)-p(1) = 0
p(1)-p(2) = 0
p(0)+p(1)+p(2)=1
なので
p(0)=p(1)=p(2)=1/3
が解というのもOKです。
エントロピーSを計算するには、まず「信号jが来たという条件下で次の信号を受けて得られる情報量の平均値(条件付きエントロピー)」S(j):
S(j)= -Σ{i=0~2}P(i|j)log(P(i|j)) (ただしlog(x)の底は2)
を出します。これはもう、デンタク叩いて計算するだけの話です。そして、先に計算しておいた定常確率p(j)を使って
S = Σ{j=0~2}p(j)S(j)
回答ありがとうございます、定常確率の表記に関して無知をさらしてしまい申し訳ないです。
また、定常確率に関してなのですが回答者が口頭で各値が1/3に~なったと説明したところ教授にそれは違うと否定されていたんです。1/3で合っていたなら何故否定されたのでしょう?
エントロピーに関しては計算した結果約0.89となりました。
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 統計学 確率統計の問題です。 3 2022/04/07 04:39
- 哲学 等情報エントロピー帯域の特定(形式学) 1 2023/07/05 20:46
- 統計学 等情報エントロピー帯域の特定(形式学) 1 2023/07/05 20:48
- 電気工事士 6.6kVケーブル単芯325sq-1.5kmの遮蔽銅テープ抵抗値は何Ω? 1 2023/05/02 21:06
- 数学 情報処理詳しい人!! A4縦のレポート文書に4:3の大きさの横向きの写真画像を貼り付けることにした。 2 2022/12/18 02:30
- 数学 最大エントロピー原理をpythonで実装したい 2 2022/06/21 13:10
- 統計学 正規分布に関する問題 3 2023/03/02 22:02
- 統計学 こんな問題を使って教育するのは、文科省の方針ですか。 3 2022/06/17 09:14
- 情報処理技術者・Microsoft認定資格 J検【令和3年度後期 情報システム試験 システムデザインスキル】問題1(2)の解き方を教えてください 1 2022/03/22 18:36
- 工学 電気回路の問題の質問 6 2022/05/22 07:20
おすすめ情報
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
一般常識を教えてください。1割...
-
「天文学的に低い確率」とは?
-
20%の不良品を含む製品の中から...
-
確率の分数式において同様に確...
-
「○○通りのパターンがある」の...
-
75%を3回連続で引かない確率
-
街の中や駅で好きな人にばった...
-
P(A|B)などの読み方
-
1個のさいころを6回投げるとき...
-
30%の確率が5回連続で起きない...
-
確率
-
数学A 1枚のコインを8回投げる...
-
イケメンに生まれる確率と、金...
-
最後の問題なのですが、解説に...
-
6人でジャンケンをした時、1人...
-
1個のサイコロを3回投げる時、...
-
3個のさいころを同時に投げると...
-
確率(高校数学A)
-
理屈と屁理屈の違いを教えてく...
-
じゃんけんの問題
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
一般常識を教えてください。1割...
-
確率の問題 数学と実生活と
-
数学の質問です。 一枚の硬貨を...
-
30%の確率が5回連続で起きない...
-
確率0.02%って10000人に2人です...
-
75%を3回連続で引かない確率
-
P(A|B)などの読み方
-
五分を6回連続で外すのはなん...
-
ほぼ確実って、どういう意味で...
-
「○○通りのパターンがある」の...
-
1個のサイコロを3回投げる時、...
-
3σについて教えてください(基...
-
BINGが間違えた、とっても簡単...
-
イケメンに生まれる確率と、金...
-
AとBが2回ジャンケンをします。...
-
確率の分数式において同様に確...
-
確率
-
子供が親より先に死ぬ確率は計...
-
反応速度や濃度は、大きいor小...
-
会う確率はどのくらい? 徒歩...
おすすめ情報