Ceek.jp Altmetrics (α ver.)
  1. ホーム
  2. 文献詳細

87 0 0 0 OA 特異モデルとベイズ学習

著者
渡辺 澄夫
出版者
日本神経回路学会
雑誌
日本神経回路学会誌 (ISSN:1340766X)
巻号頁・発行日
vol.10, no.4, pp.211-219, 2003-12-05 (Released:2011-03-14)
参考文献数
41
被引用文献数
1 1
人工的神経回路網に代表される多くの確率的推論モデルは, フィッシャー情報行列が特異となるパラメータを持つため, 統計的正則モデルではないことが知られている. 現在でも, その学習の数学的な性質の多くは謎のままであるが, 近年の研究の進展により, ベイズ学習については多くの事実が解明されるようになってきた. 本論では, 特異モデルにおけるベイズ学習について, 数学的な美しさと実世界問題における有用性を解説する.

言及状況

外部データベース (DOI)

はてなブックマーク (1 users, 1 posts)

特異モデルとベイズ学習

Twitter (86 users, 112 posts, 297 favorites)

いきいきとした導入！誰しも頁を進めてしまうレベル． > 特異モデルとベイズ学習 - J-Stage https://t.co/NqnIJjJeLg https://t.co/8u00QpBQrp
48 @NeuTabuchi @genkuroki @hajk__ @dXj2VvPYf85AvQu @wakara_nagomi @fanfanfuzzy @hal9801 @ano2math5 @kachofugetsujp @nanbuwks @takesection @math_int @ikuy_usay @hechimachanpuru @aoki_taichi @just_atr_active @yujikb @keramice1 @id50011 @oni_chan023 @furifuri_mono @you_and_i @Illmatist @stepney141 @ake_no_myojo @NakanakaPierrot @O_a_C2017 @yasutomo57jp @komorin9502 @mono_dukuri_no @getter5761 @hiroto1979 @syoifczeri @onomoto @pinmarch_t @anosillus @miyayou @katzkagaya @yuuyuuyuuyuu10 @septomology @hidekikawahara @genkuroki
197 @NeuTabuchi @DraScentET @ahoiha @cngng @yotb11 @ysaito8015 @tyamadajp @norez14 @takahirokawaka5 @hajk__ @shitofthefkhrt @beanpastebutter @xyz600600 @hiro_tatsumoto @takaken1977 @utotch @etcinitd @planetofplane @DiscoveryCoach @TakashiSasaki @wakara_nagomi @ya7_ @txmy @ac_moonpalace @ae14watanabe @ano2math5 @buhii @chakuiguma @daiki_prv @go_over_Neumann @hal9801 @hechimachanpuru @hogehogekanana @Homoronro @ikuy_usay @kachofugetsujp @kohji405mi16 @lelouvierxo @lera_04_orbiter @londbell00 @LOWHIGHLOWHIGH @maharu_fulltan @math_int @momose_d @nanoris @nebutalab @niku9Tenhou @nil_ina @nyctea_skykitty @ochiai_tetu @okurand @Ouyou_Mo @PastmemoriesR @purpleheadz79 @quolc @radish3168 @rerere_uta @sanewo @shmajin @SleepingP @syuri0731 @s_tat1204 @teke_phys @TimothyFury @t_itamiya @wiifm8 @YukiCossy @___tamu___ @just_atr_active @mine_take @riceballbread @RukaWatabe @shinya1900012 @KCN_1984 @yujikb @akapecopeco @Curiosi46542428 @HKTmine @ry_tsurumi @masayan_222 @yossoon @yuhkis @gp_ad @hism_tt @id50011 @keramice1 @Mizkino @oni_chan023 @shintaromori @shintax_shintax @TacchanTokyo @Tomato1027 @furifuri_mono @nak_dora93 @ytart165 @gamo_2682 @it_tako @kogepannonukes @mak_organic @ake_no_myojo @haycock8_gaming @tmiya_ @CHISE_ja @Hrmy_umi @kaedaej @shinji_kono @smk7758 @SparkTeletype @abenben @fi1e5 @hiranabe @salesfoececha @tenkanese @yushi_robo @hikazoh @NibiJim @ToshikuniM @VguAfwSFK9XuDy5 @1789aorhow @AliceBob20201 @gbiwer @Kakeashi_Meta @ksasao @mizuki_sonoko @NakanakaPierrot @nomuhyooon @O_a_C2017 @pleochroite @quantumAnalyser @yasutomo57jp @mono_dukuri_no @progranate @getter5761 @kojiro1007 @midsum0323 @n_hgc36 @sei_shinagawa @shirokurosatodx @zinziroge @AnzaiH_VC @furufuru @handaidragon @i_dg23 @morioka @onomoto @SaberLevel5 @sawad71 @sig_kdy @syoifczeri @yoshihiko_hara @bearthefruit @hide36ous @kaishitaeiichi @kitano_blog @kogeda92 @mosaico @NegativeMind @rizaudo @takuyah @uwyzet1 @arayake7 @kurayashiki0323 @metaphusika @miyayou @tomatchskim @C17ru5 @Medivice2 @sg04332 @teko_ya @ysknishimura @alumite @nasu_lgz @nekomaguro @nekotatsusan3 @nov_sin_k @NozomiMaki2 @onitaka_unchain @salixxcapara @yme_akoch @ballforest @daruchan524 @OJAPRO @sanbon_no_k @shtr_zww2 @404_not_found_L @DI_Gucchi @genkuroki @hidekikawahara @HS_Kiri @katzkagaya @ken1maeda @mnemonn @m_ero_n @ShrimpTail_Tx @wint7 @XX62 @yuuyuuyuuyuu10
@Shuntarooo3 @_akiraendo モデルヘッセ行列(この場合フィッシャー情報行列)が正則でないモデルのことで、事後分布の形が正規分布に漸近しないです。 ↓これとかわかりやすいかと思います https://t.co/EGfhLDMUJ6
1 @th_adieu
#数楽 #統計 リンクの張り直し https://t.co/BSzLY5uGFx 特異モデルとベイズ学習 渡辺 澄夫 2003 https://t.co/BG8zCRpugk
1 @genkuroki
@KooUehr こんにちは。僕が特異モデル云々と言った話については、この辺りの話を想定しています。https://t.co/H3dXCLU1DL
@yellowshippo 例えば以下の図2のような状況です。このwがニューラルネットのパラメータなど意味を持たない量ならいいんですが、階層モデルの一部だったりしてその分野の論理にとって意味を持つ量だったりすると、結果の解釈に影響を与えるのかもと思いました。 https://t.co/H3dXCLU1DL
0
#統計 https://t.co/ZetHtIVfar 特異モデルとベイズ学習 渡辺澄夫 2003 は面白く書かれているのでおすすめ。 数学畑の人達には、b函数やAtiyahさんによる特異点解消の使い方についても脚注で言及している点が興味をひくと思う。「b-関数」がキーワードの1つ。数理研の代数解析スクールの影響か？ https://t.co/PR3kgE7wEq
5 @genkuroki @genkuroki @kaotu_tw @emacser
7 @nuro_neuro @toyo9 @emacser @genkuroki @katzkagaya @Nuco_neco @TakuoMatsubara
#統計 https://t.co/ZetHtIVfar p.217 脚注8【モデルを選択するということは超有効推定量を作るということである】(渡辺澄夫2003) 単純な最尤法で得たパラメーターとは異なるパラメーターを確率モデルに代入して得られる予測分布の方が最尤法の予測分布より予測精度が高いことは日常茶飯事。
1 @genkuroki
1 @genkuroki
#統計 渡辺澄夫さんは2003年の時点で(『ベイズ統計の理論と方法』は2012年)、 https://t.co/ZetHtIVfar で「超有効推定量」(superefficient estimator)について添付画像のように述べています。縮小推定量はshrinkage。ググれば情報が得られますが、『ベイズ統計の理論と方法』4.6節が結局良い感じ。 https://t.co/EZXPhoNFbd
1 @genkuroki
1 @genkuroki
学習モデルが真の分布を含まない場合，パラメータの推定値は，サンプルの増加に応じて，ある特異点の近傍から他の特異点の近傍へとジャンプしていく，とのことなので，これを数値実験で確認してみたい．理論（数学）⇔ 数値実験（現象の観測）の往復ができて楽しい！ https://t.co/9LVVAvNsES https://t.co/lot31UKpgv
9 @jaialkdanel @ekusoyt @ysaito8015 @quantumbtc @hayashiyus @takaken1977 @enshot @onpa_official
14 @enshot @hogehoge1192 @kaede9999 @katoo3210 @moratoriamuo271 @mosko_mule @m_ishimu @novice_app @onpa_official @thruthebckdr @yachts111xenon @yasu551_ @ysaito8015 @__yosider
#統計 渡辺さんは特異モデルの場合を強調していますが、正則モデルの場合であっても、ジェフリーズ分布を特にすすめる必然性もありません。 https://t.co/wGEOzKXDIk p.7脚注からの引用 【統計的正則モデルの場合でも、常にジェフリーズ事前分布よりも予測に優れる事前分布は存在する】
1 @mtcedar1972
7 @genkuroki @mtcedar1972 @m_ishimu @niszet0 @nizimeta @novice_app @ysaito8015
#統計 Jeffreys事前分布を特に強くするめることは合理的ではないことに関するコメントと文献について https://t.co/wGEOzKXDIk 渡辺澄夫『特異モデルとベイズ学習』 を見て下さい。pdfのp.7の誤解4を見て下さい。論文も引用されています。18)と36)です。続く
3 @fronori @mtcedar1972 @niszet0
9 @FujitaAtsunori @genkuroki @mtcedar1972 @m_ishimu @niszet0 @nizimeta @novice_app @xiangze750 @ysaito8015
1 1 https://t.co/7Dm5bB9XLK
#数楽 広中の特異点解消や佐藤のb函数などの統計学への応用 https://t.co/wGEOzKG2QM https://t.co/BI0bF6nVND https://t.co/kCjCYxBawr この手の話も計算機にのせるためにはグレブナー基底が必要になる。
3 @simizut22 @phykm
9 @b8eansatz @genkuroki @kaz_wat @kirin_shi @myfavoritescene @phykm @PPSPSSSPPP @praxis_soma @tune3orz

収集済み URL リスト