著者
田中 研太郎 杉原 正顯 須田 礼二
雑誌
情報処理学会研究報告ハイパフォーマンスコンピューティング(HPC)
巻号頁・発行日
vol.2001, no.49(2001-HPC-086), pp.13-17, 2001-05-25

ニューラルネットの学習において、学習の停滞期(プラトー)が起きて、なかなか学習が進まないことがある。そのプラトーを避け、もっと速く学習する方法として、自然勾配学習法が甘利らによって考えられた。本論文では、この自然勾配学習法がうまくいかない場合があることを示し、その解決策として、普通の勾配学習法と自然勾配学習法を組み合わせることを提案し、数値実験で有効性を示す。

言及状況

Twitter (1 users, 1 posts, 4 favorites)

@ML_deep 見つけました!こちらの論文です! 3ページ目などで議論されています。 https://t.co/8BNatYcKy5

収集済み URL リスト