ノンパラメトリック確率伝播について

ノンパラメトリック確率伝播とはいったいどのようなもので、どういったものに利用されていますか？

No.3 回答者： kamiyasiro 回答日時： 2015/12/21 01:58

企業で統計を担当する者です。

私は、#2さんの、2番目の「ディリクレ過程」を支持します。
確率伝播ですから、MCMCのことですよね。

利用方法は、
分類器を「生成モデルアプローチ」で作成する際に、
ベイズを用いますが、最近は積分が複雑なのでMCMC（マルコフチェーン・
モンテカルロ法）を使います。そのとき、分布が多項分布の時に
ノンパラメトリック・ベイズとしてディリクレを使います。

と、説明しても、
・生成モデル ⇔ 識別モデル
・ベイズ
・MCMC
・多項分布
・ノンパラメトリック・ベイズ
・ディリクレ
が分からなければ分からないと思いますが、
ご質問の語句は、そのような勉強をされていないと、
出てこない語句だと思いますので、
その辺はOKですよね。

No.2 回答者： rabbit_cat 回答日時： 2015/12/20 04:21

「ノンパラメトリック」という言葉は、ややこしいことに

・#1さん紹介のページに書いてあるような、確率モデルを事前に特定しない各種の手法
という意味（従来の意味）で使う場合と、
・事前にモデルの複雑さ（パラメータの数）を指定しないで、モデルの複雑さ（パラメータの数）自体もデータによって学習する各種の手法
という意味（最近の流行り）で使う場合の２通りがあります。
後者の典型として、例えば、ディリクレ過程混合モデルなんかがありますが、これは確率モデル自体は事前に特定しています。ただし、確率モデルを記述するパラメータ数が可変（正確には、無限個存在するパラメータのうち、少数を除いて無視できる）ということです。

私自身は「ノンパラメトリック確率伝播」というものはしりませんが、確率伝播法（Belief Propargation）というと、基本的にはベイズ的な枠組みが前提になっているので、おそらく、後者の意味のノンパラメトリックだと思います。

No.1 回答者： yhr2 回答日時： 2015/12/19 11:10

詳しくはありませんが、

「ノンパラメトリックな手法」
http://www.weblio.jp/content/%E3%83%8E%E3%83%B3% …

と

「確率伝播法」
https://ja.wikipedia.org/wiki/%E7%A2%BA%E7%8E%87 …
https://staff.aist.go.jp/y-ichisugi/besom/201002 …

を分けて内容を理解し、これを組合せればよいのではないでしょうか。
　上記以外にも、検索すればいろいろと出てきます。

　片や統計的な手法（パラメトリック／ノンパラメトリックという分類）、片やメッセージ伝達に関する手法ですが、後者は昨今人工知能・脳の認知手法などに応用されるようになっているようです。

この回答へのお礼

素早い回答ありがとうございます！
参考になりました

お礼日時：2015/12/20 02:08