著者

宮崎 大 渡辺 澄夫

出版者

一般社団法人電子情報通信学会

雑誌

電子情報通信学会技術研究報告. MBE, MEとバイオサイバネティックス (ISSN:09135685)

巻号頁・発行日

vol.114, no.514, pp.331-336, 2015-03-09

---

LASSO (Least Absolute Shrinkage and Selection Operator)回帰は,二乗損失にパラメータの要素の絶対値の総和で表される罰則項を付加する方法であり,推定されるパラメータにスパース性が見られるときに有用であると考えられている.LASSO回帰はニューラルネットワークの学習や統計的推測の問題へ適用されているが,罰則項の大きさの決定方法については不十分な点が残されていた.我々はこれまでに,ベイズ法の観点からLASSO回帰を扱うことで,罰則項の決定問題を事前分布の最適化問題であると考え,事後分布が正規分布で近似できるか否かに関わらず予測損失の漸近的な不偏推定を与える情報量規準WAICを用いて最適化する方法を提案し,その有効性を実験的に明らかにした.本論文ではこの方法をLASSO回帰による都市データ解析に適用し,次の3点を明らかにする.(1)都市データ解析において,LASSO回帰とridge回帰の両方について,WAICを用いて適切なハイパーパラメータを設定することにより,推測において不要な変数を削減することができる.(2)用いた都市データに対しては,LASSO回帰とridge回帰では最適なハイパーパラメータが異なったが,推測されたパラメータはほぼ同じであった.(3)最小二乗法により推測されたパラメータでは変数削減効果が見られず,推測されたパラメータは上記の2方法とは大きく異なるものであった.