2 0 0 0 OA 確率的画像処理の手引き
- 著者
- 安田 宗樹
- 出版者
- 日本医用画像工学会
- 雑誌
- Medical Imaging Technology (ISSN:0288450X)
- 巻号頁・発行日
- vol.32, no.3, pp.155-163, 2014 (Released:2014-08-05)
- 参考文献数
- 10
本稿では,確率的画像処理の枠組みの基礎を成しているマルコフ確率場とその計算アルゴリズムとしての確率伝搬法(サム・プロダクト確率伝搬法とマックス・プロダクト確率伝搬法)について議論する.これらの概念は最新の確率的画像処理分野においても重要な位置を占めている.確率的画像処理の基礎数理を説明し,ノイズ除去フィルタへの応用を通して,確率的画像処理への導入を手引きする.
1 0 0 0 OA スパース化された隠れ変数を持つ制限ボルツマンマシン
- 著者
- 横山 悠貴 安田 宗樹
- 雑誌
- 第80回全国大会講演論文集
- 巻号頁・発行日
- vol.2018, no.1, pp.285-286, 2018-03-13
ニューラルネットワークにおいて、隠れ変数を多くして複雑な構造を持たせると表現能力が高くなるが過学習を引き起こしやすくなる。そのため、過学習を引き起こしにくくするためには適切な構造を持たせなければならないがそれは経験と勘により設計しなければならないのが現状である。本講演では統計的機械学習モデルのひとつである制限ボルツマンマシンの隠れ変数に対してスパース正則化を行うことで有効な隠れ変数の数を自動調整し、汎化誤差が低減されているすることを報告する。また、制限ボルツマンマシン学習でよく使われる近似計算であるContrastive Divergence法の他, 厳密計算においてもスパース正則化により汎化誤差が低減することを示す。
- 著者
- 安田 宗樹
- 出版者
- 社団法人人工知能学会
- 雑誌
- 人工知能学会誌 (ISSN:09128085)
- 巻号頁・発行日
- vol.28, no.3, pp.474-485, 2013-05-01
- 被引用文献数
- 1
1 0 0 0 相関等式を用いたボルツマンマシンの決定論的近似学習アルゴリズム
- 著者
- 安田 宗樹 田中 和之
- 出版者
- The Institute of Electronics, Information and Communication Engineers
- 雑誌
- 電子情報通信学会論文誌 D (ISSN:18804535)
- 巻号頁・発行日
- vol.J93-D, no.11, pp.2446-2453, 2010-11-01
ボルツマンマシンはマルコフ確率場の形式をとる確率的ニューラルネットワークの一つであり,パラメトリック機械学習の重要なモデルの一つである.しかしボルツマンマシンの厳密な学習アルゴリズムは一般にシステムの次元に対して指数的な計算コストを必要としてしまう.近年Hintonによりcontrastive divergenceと呼ばれる強力な近似学習アルゴリズムが提案され,多くの学習問題に適用されてきている.しかしながらcontrastive divergenceにはアルゴリズムの収束などに関しての理論的な保証がほとんどなく,実用的には確率的なサンプリング法を必要とするためアルゴリズムが分散をもってしまうという欠点がある.そこで本論文では相関等式と呼ばれる定式化を用いてボルツマンマシンに対する新しい近似学習アルゴリズムを提案する.提案学習アルゴリズムはボルツマンマシンの学習の問題を単純な凸最適化問題へと近似することにより得られる.そのアルゴリズムは観測データ点に対して決定論的に解を与えるものであるため実装には便利である.また提案学習アルゴリズムの性能はcontrastive divergenceやYasuda and Tanakaにより提案されたloopy belief propagationを用いた学習アルゴリズムの性能を多くの場合で上回ることを人工データに対する数値実験を用いて示す.