ニューラルネットの対数変換について

順伝播型ネットワークを勉強していて評価関数や交差エントロピーを導くときに対数変換する理由がわからないのですが、
これはメモリ効率がいいとか、計算速度がはやいとかそういった理由があるのでしょうか？

No.1 ベストアンサー 回答者： rinkun 回答日時： 2015/11/18 19:03

パラメータを更新するために解く問題を線形にするためじゃないかな。

しないと解けないし。
まずニューラルネットでは評価関数やエントロピーを記述する式のパラメータをデータに合わせて最適化していくということは良いですか。それで評価関数などはそのままだと変数の積で表現される場合が多いですが、そのままだとパラメータが冪乗数だったりしてパラメータ決定問題が線形にならないので解きにくいのです。
ところが対数にすると積が和に変わるのでパラメータ決定を線形問題で扱える。また対数は単調増加なので、最適値を探索する観点からは対数で評価しても結果は変わらない。そういうわけで対数で扱います。