46 0 0 0 OA 自然勾配学習法-学習空間の幾何学
- 著者
- 甘利 俊一
- 出版者
- 公益社団法人 計測自動制御学会
- 雑誌
- 計測と制御 (ISSN:04534662)
- 巻号頁・発行日
- vol.40, no.10, pp.735-739, 2001-10-10 (Released:2009-11-26)
- 参考文献数
- 21
言及状況
外部データベース (DOI)
はてなブックマーク (2 users, 2 posts)
[最適化][機械学習]
自然勾配学習法
Twitter (44 users, 48 posts, 37 favorites)
> システムをパラメータで指定したときのパラメータ空間は,通常ユークリッド空間ではなくて,システムの構 造 に起因する複雑な幾何学を有している1).プラトーはこの幾何学構造に起因すること,さらに幾何学構造を利用した自然な学習法があ ることが明らかになってきた2),3).
https://t.co/8eDx87KOt3
直接関係ないけど、勾配法は型が違うものを足していて気持ち悪いという話を思い出した。
今更ながらそれを解消するという自然勾配法について調べてみると、甘利先生の説明が分かりやすい！
https://t.co/Zk26M3mqmA https://t.co/Xa9G0ABBfu
これと合わせて読むとさらに理解が深まる。。
林さんの資料のα＝1の時がURLの自然勾配法でα＝0.5の時、最小二乗法、その仕組みには内分的な構造がある。
(おそらくあってる)
https://t.co/BkDrioPxsd https://t.co/0MR0eLuE8o
自然勾配学習法-学習空間の幾何学
甘利俊一
https://t.co/vVyJcpKtyO
先日聴いてきたブラックボックス最適化が興味深いけど、その前におそらく基礎となっている自然勾配法というキーワードをいただいたのでそっちから勉強中。「自然勾配学習法 - 学習空間の幾何学」
https://t.co/x6cW1BWVgn
#統計 自然なリーマン計量があるなら、そのリーマン計量に従って勾配を計算して利用した方が色々うまく行くだろうと考えることは自然でしょう。
自然勾配法については次のリンク先に甘利さん自身による解説があります。
https://t.co/OQd1oH3mJn
めも(pdf)自然勾配
https://t.co/ZDhcJbUfNP
自然勾配法おもしろい。
" 配ベクトルは関 数fの 最 も急峻 に変化す る方向を示す と一般 に考 えられ ている.こ れは本当か,こ こから考え直す必要がある."
"パ ラメー タ空間 は,通常ユークリッド空間ではなくて,シ ステムの構造に 起因する複雑な幾何学を有 している"
https://t.co/hVim1vNNwc
自然勾配https://t.co/A4C7ud2kWW
自然勾配学習法学習空間の幾何学 / https://t.co/dD6L6giZ6T
Natural Gradients and Stochastic Variational Inference https://t.co/M279spKzwu 自然勾配のすばらしい解説．甘利先生のこれもhttps://t.co/8LrtyzC1CI
_pdf: _pdf https://t.co/RqYbN6Pusq [ml]