39 0 0 0 OA LASSOに対するSURE理論に基づく情報量規準
- 著者
- 二宮 嘉行
- 出版者
- 一般社団法人 日本統計学会
- 雑誌
- 日本統計学会誌 (ISSN:03895602)
- 巻号頁・発行日
- vol.53, no.1, pp.29-47, 2023-09-07 (Released:2023-09-07)
- 参考文献数
- 29
説明変数の候補がたくさんあるときの回帰分析手法として,今やスパース推定は標準手法となっている.一方,スパース推定における正則化パラメータの選択については,たとえスパース推定のためのAICがシンプルな形で得られていて,かつ目的が良い予測をしようというものであっても,必ずしもそのAICは用いられておらず,つまり標準手法は定まっていないように見受けられる.本稿では,そういった標準手法が定まっていないケース,正確には正規線形回帰分析でLASSOを用いるケースで,LASSOとAICを組み合わせて推定したモデルの性能評価を数値実験でおこなう.具体的には,LASSOとAICを組み合わせたとき,リッジ正則化法とAICを組み合わせたとき,最尤法と通常のAICを組み合わせてベストサブセット回帰を用いたとき,およびLASSOと交差検証法を組み合わせたときを,予測二乗誤差の評価を通じて比較する.また,その交差検証法で,データの分割の仕方で推定結果がどのくらい違ってくるのかを,予測二乗誤差や選ばれたモデルの自由度のばらつきを数値評価することで確認する.このLASSOのためのAICはSURE理論により導かれるが,それほど知られていないように見受けられるため,最後に僅かに一般化した設定で導出をおこなう.
言及状況
外部データベース (DOI)
Twitter (39 users, 39 posts, 195 favorites)
二宮嘉行 (2023). 「LASSOに対するSURE理論に基づく情報量規準」『日本統計学会誌』53(1), 29-47. https://t.co/neNiSAterd 明日（以降）見る。
LASSOの正則化パラメータの選択には SURE（Stein's Unbiased Risk Estimate）から導出されるAICを使いましょう，という二宮さんからのメッセージ。
数値例やAICの導出もあって分かりやすい。
https://t.co/HlRa27ZSgR