シグモイド関数の偏微分？

http://nnadl-ja.github.io/nnadl_site_ja/chap1.html
上記のページにある添付した画像の式を、具体的な数値を設定したシグモイドニューロンで説明して頂けますでしょうか。（偏微分の値の計算方法がわかっていないのかもしれません）

No.2 ベストアンサー 回答者： Ogre7077 回答日時： 2017/02/05 20:04

ニューロンのパラメーターをそれぞれ変化させることによる、出力の変化を計算しています。

入力が3個のニューロンでの例
z = (x1 * w1) + (x2 * w2) + (x3 * w3) + b
σ = 1 / (1+exp(-z))
パラメーターは、重み w1, w2, w3 とバイアス b の四つ

重み w1 を変化させた場合の、出力の変化 = σのw1に関する微分 * w1の変化分 = dσ/dw1*Δw1
重み w2 を変化させた場合の、出力の変化 = σのw2に関する微分 * w2の変化分 = dσ/dw2*Δw2
重み w3 を変化させた場合の、出力の変化 = σのw3に関する微分 * w3の変化分 = dσ/dw3*Δw3
バイアス b を変化させた場合の、出力の変化 = σのbに関する微分 * bの変化分 = dσ/db*Δb

パラメーターをそれぞれ変化させた場合の、出力の変化
= Σj(dσ/dwj*Δwj) + dσ/db*Δb
σ を output と置き換えれば
Δoutput = Σj(doutput/dwj*Δwj) + doutput/db*Δb

欲しい Δoutput を得るために、パラメーターの変化分を決めるのは簡単である。
というのが伝えたい事の様です。

この回答へのお礼

詳しい解説、ありがとうございます！

なんとなくイメージは掴めたのですが、実際に値を代入してみると少し疑問が生まれてしまいました。

x1=2,x2=3,x3=1, w1=0.5,w2=0.5,w3=1, b=2 だとすると、ｚ=5.5
重みとバイアスの値を少し変えて、
w1=0.3,w2=0.7,w3=1.1, b=2.2 とするとz=6
ということは、Δoutputの値が0.5になればいいということでしょうか？
その計算過程の部分で、dσ/dw1,dσ/dw2dσ/dw3,dσ/dbの値の出し方がいまいちわかりません...
自分の勉強不足なのですが、教えて頂けますでしょうか。

お礼日時：2017/02/06 21:26

No.1 回答者： LEVELUP100 回答日時： 2017/02/05 16:44

解説ができるほど詳しくはないですが。

　図で表すとこういう感じだろうか。

　「シグモイド関数とは」で画像検索をした結果です。

＞https://www.google.co.jp/search?q=%E3%82%B7%E3%8 …

＞シグモイド関数とはなんですか？？ 人工知能とい
＞http://detail.chiebukuro.yahoo.co.jp/qa/question …

この回答へのお礼

ありがとうございます！

お礼日時：2017/02/06 21:26