- 著者
-
中田 光
大沢 和樹
横田 理央
- 雑誌
- 第81回全国大会講演論文集
- 巻号頁・発行日
- vol.2019, no.1, pp.461-462, 2019-02-28
深層学習は与えられた膨大なデータに対し柔軟な学習を可能にする一方、学習を汎化させ未知のデータに対しても精度を保つことが一つの大きな課題となる。近年では、ベイズ推定を深層学習に適用し、学習によって得られたニューラルネットワークの重みの不確かさを推定することにより学習を汎化させる試みが注目されつつある。Zhangらによって提案されたNoisy K-FACは、自然勾配法に基づく一種の変分推論を行うことによりベイズ推定を行う手法であり、学習が汎化することが示されている。本研究ではNoisy K-FACに着目し、重みの更新時に複数のサンプルを用いた場合の学習の変化ついて比較検証を行った。