- 著者
-
萩原 克幸
戸田 尚宏
臼井 支朗
- 出版者
- 一般社団法人電子情報通信学会
- 雑誌
- 電子情報通信学会論文誌. D-II, 情報・システム, II-情報処理 (ISSN:09151923)
- 巻号頁・発行日
- vol.76, no.9, pp.2058-2065, 1993-09-25
- 被引用文献数
-
35
階層型ニューラルネットワークの学習法としてバックプロパゲーションを用いる場合,ネットワーク構造が適切でないと,学習した入出力関係が獲得すべき入出力関係からずれてしまう.こうしたことから,情報量規準AIC(Akaike's Information Criterion)による構造決定が試みられているが,その有効性に関してAICの導出に立ち入った考察はなされていない.一方,最近,同じ出力を与える階層型ネットワークの結合重みは必ずしも一意性をもたないことが指摘されている.本論文では,3層階層型ネットワークを用いた非線形回帰モデルに対して,結合重みの非一意性のために,AICが導出できないことを示す.また,数値実験に基づき,3層階層型ネットワークを用いた非線形回帰モデルの複雑さに関して考察した.更に,AICを直接適用した場合,線形回帰モデルと比較して多めのパラメータ数(中間ユニット数)が選択される傾向にあることを数値的に確かめた.本論文の考察結果は,一般に,漸近展開による方法で構成された規準に対して,結合重みの非一意性が無視できないことを示したものである.ネットワークの構造決定規準を構成するためには,その統計的性質に関する考察がまだ不十分であるように思われる.