自然勾配学習法-学習空間の幾何学

[最適化][機械学習] 自然勾配学習法

おもしろ〜〜〜 https://t.co/KsYMdLf66I

先日聴いてきたブラックボックス最適化が興味深いけど、その前におそらく基礎となっている自然勾配法というキーワードをいただいたのでそっちから勉強中。「自然勾配学習法 - 学習空間の幾何学」 https://t.co/x6cW1BWVgn

情報幾何は直接役に立つということはないと思いますが、データの幾何学構造を考えるときに例えば特異点などが存在する特異モデルの場合などはデータ空間が歪んでる（リーマン空間になってる）場合、こっちの勾配方法のほうが適しているとかを調べる… https://t.co/KxtiqOkI1w

#統計自然なリーマン計量があるなら、そのリーマン計量に従って勾配を計算して利用した方が色々うまく行くだろうと考えることは自然でしょう。自然勾配法については次のリンク先に甘利さん自身による解説があります。 https://t.co/OQd1oH3mJn

6 @quantumbtc @hayashiyus @ekusoyt @Woofer30 @fjt @hayashiyus

12 @6uux_uxxx_ut @mathbbN @sayaensm @f_jhr @subarusatosi @ysaito8015 @abiko_ushi @fjt @genkuroki @hayashiyus @matsudotsuyoshi @yfstama

めも(pdf)自然勾配 https://t.co/ZDhcJbUfNP

自然勾配法おもしろい。 " 配ベクトルは関数fの最も急峻に変化する方向を示すと一般に考えられている.これは本当か,ここから考え直す必要がある." "パラメータ空間は,通常ユークリッド空間ではなくて,シ… https://t.co/6u86ap1oyT

1 @ATH_ray_

2 @ATH_ray_ @bravery_

自然勾配https://t.co/A4C7ud2kWW

4 @hayashiyus @adastraperardva @ahahsak @JS_Ecoha

自然勾配学習法学習空間の幾何学 / https://t.co/dD6L6giZ6T

Natural Gradients and Stochastic Variational Inference https://t.co/M279spKzwu 自然勾配のすばらしい解説．甘利先生のこれもhttps://t.co/8LrtyzC1CI

5 @ekusoyt @quantumbtc @213R @Noto_Sans_JP @dizzy_my_future

26 @canacanata @ats_m @nanki @hayashiyus @quoth @Quasi_quant2010 @teramonagi @yukara13 @negi111111 @yasukexxx @codyseto @adastraperardva @ikuro_s @rabbitfoot530 @guguchi_yama @I_eric_Y @Lewuathe @arthurian522 @eno____zzz @goahead1216 @D_becchi @hiroshitsutaya @ko000 @ksknw @naitoh @nikonikoten

_pdf: _pdf https://t.co/RqYbN6Pusq [ml]