- 著者
-
上田 修功
中野 良平
- 出版者
- 一般社団法人電子情報通信学会
- 雑誌
- 電子情報通信学会論文誌. D-II, 情報・システム, II-情報処理 (ISSN:09151923)
- 巻号頁・発行日
- vol.80, no.9, pp.2512-2521, 1997-09-25
- 参考文献数
- 17
- 被引用文献数
-
30
最近, 汎化能力向上のための新たなアプローチとして, 同一タスクに対して複数の予測器を個別に学習した後, それらの出力の平均値(一般には重み付き平均)を予測値とするアンサンブル学習法が提案され実験的にその有効性が示されている. しかしながら, これまでアンサンブル予測器の汎化誤差に関する厳密な議論は十分になされていない. 本論文では, 回帰問題に焦点をあて, 一般のアンサンブル予測器の汎化誤差改善効果に関する数理的考察を行う. すなわち, 同一タスクに対して個別に学習させた任意の非線形予測器のアンサンブルによる汎化誤差を, 各予測器の推定値のバイアス, 分散, 予測器間の出力の共分散, 学習データのノイズの分散を用いて表し, 各々が汎化誤差に及ぼす影響を明らかにする. 次いで, 実用上興味深いケース(各予測器が同一モデルからなる等)について考察し, 計算機シミュレーションにより解析結果の検証を行う. 解析結果をもとに, 一つのデータセットのみが与えられているという実用上自然な状況下では, データセットを分割する方法では予測の精度向上は期待できないことを明らかにし, その場合の有効なアンサンブル学習法について言及する.