著者

渡辺 澄夫

出版者

日本神経回路学会

雑誌

日本神経回路学会誌 (ISSN:1340766X)

巻号頁・発行日

vol.14, no.3, pp.218-225, 2007-09-05 (Released:2008-11-21)

参考文献数

7

被引用文献数

2 2

---

本稿では, 人工知能や情報工学などの物理学とは直接に関係していない分野の研究者や技術者のために, 平衡統計力学の入門的な紹介を行う. その中でも特に大切な概念のひとつである無限次元空間上の確率分布の基礎的な性質について, 物理学の知識・自然への関心・数学的な感受性などを仮定せずに説明を行う.

著者

渡辺 澄夫

出版者

日本神経回路学会

雑誌

日本神経回路学会誌 (ISSN:1340766X)

巻号頁・発行日

vol.10, no.4, pp.211-219, 2003-12-05 (Released:2011-03-14)

参考文献数

41

被引用文献数

1 1

---

人工的神経回路網に代表される多くの確率的推論モデルは, フィッシャー情報行列が特異となるパラメータを持つため, 統計的正則モデルではないことが知られている. 現在でも, その学習の数学的な性質の多くは謎のままであるが, 近年の研究の進展により, ベイズ学習については多くの事実が解明されるようになってきた. 本論では, 特異モデルにおけるベイズ学習について, 数学的な美しさと実世界問題における有用性を解説する.

著者

渡辺 澄夫

出版者

素粒子論グループ 素粒子論研究 編集部

雑誌

素粒子論研究 (ISSN:03711838)

巻号頁・発行日

vol.71, no.1, pp.1-48, 1985

著者

渡辺 澄夫

出版者

物性研究刊行会

雑誌

物性研究 (ISSN:05252997)

巻号頁・発行日

vol.97, no.5, pp.1145-1161, 2012-02-05

---

この論文は国立情報学研究所の電子図書館事業により電子化されました。

著者

渡辺 澄夫

出版者

公益社団法人 計測自動制御学会

雑誌

計測と制御 (ISSN:04534662)

巻号頁・発行日

vol.44, no.5, pp.293-298, 2005-05-10 (Released:2009-11-26)

参考文献数

7

著者

渡辺 澄夫

出版者

物性研究刊行会

雑誌

物性研究 (ISSN:05252997)

巻号頁・発行日

vol.97, no.5, pp.1145-1161, 2012-02

---

統計的推測の問題を考えるときに現れる物理学と数学について紹介する。統計的推測の問題は、ランダム・ハミルトニアンによって定義されるカノニカル分布のもとでマクロな変量の挙動を考える問題と等価である。特に、観測データの背後にある構造を推測する場合には、基底状態が特異点を持つ解析的集合であるカノニカル分布を考察する問題になり、マクロな変量が従う法則を導出する際に代数幾何などの数学的手段が有効である。統計力学と類似する理論の構築により、統計的推測においても普遍性を持つ公式が存在すること、および、その公式は双有理不変量を与えていることが明らかになる。

著者

渡辺 澄夫

出版者

一般社団法人 日本応用数理学会

雑誌

応用数理 (ISSN:24321982)

巻号頁・発行日

vol.31, no.3, pp.7-14, 2021-09-22 (Released:2021-12-26)

参考文献数

15

---

Many statistical models and learning machines are not regular but singular, hence the conventional theory using asymptotic normality can not be employed in analysis of such models. This paper explains the new mathematical theory which enables us to clarify the asymptotic behaviors of the generalization loss and the free energy based on algebraic geometry. Also the short history how this theory has been applied to real world problems is introduced.

著者

渡辺 澄夫

出版者

素粒子論グループ 素粒子論研究 編集部

雑誌

素粒子論研究 (ISSN:03711838)

巻号頁・発行日

vol.71, no.1, pp.1-48, 1985-04-20 (Released:2017-10-02)

著者

一政 信行 渡辺 澄夫

出版者

一般社団法人電子情報通信学会

雑誌

電子情報通信学会総合大会講演論文集

巻号頁・発行日

vol.1996, no.1, 1996-03-11

---

近年、音声合成技術が実用に使われるようになり、多種多様な機能が求められている。本論では、ニューラルネットと動的計画法を用いて特定の個人の口調のものまねを自動的に行うシステムを提案する。

著者

渡辺 澄夫

出版者

一般社団法人電子情報通信学会

雑誌

情報・システムソサイエティ誌 (ISSN:21899797)

巻号頁・発行日

vol.18, no.4, pp.17-18, 2014-02-01 (Released:2016-12-11)

著者

西上 功一郎 渡辺 澄夫

出版者

一般社団法人電子情報通信学会

雑誌

電子情報通信学会論文誌. D-II, 情報・システム, II-パターン処理 = The transactions of the Institute of Electronics, Information and Communication Engineers. D-II (ISSN:09151923)

巻号頁・発行日

vol.86, no.1, pp.119-129, 2003-01-01

被引用文献数

17

---

情報システムの統計的学習においては,複数のモデルの候補から与えられた規準に対して最も適するモデルを選ぶ操作が必要になる.その規準として,真の分布を最大の確率で見出すための一致性の規準,及び予測誤差を最小にするための有効性の規準がある.正則な統計モデルにおいては,AICやBICなどの規準が提唱され,その性質が詳しく研究されているが,神経回路網や混合正規分布などの特異点をもつ学習モデルの選択のための規準については,不明なことが少なくない.本論文では,特異点をもつモデルのベイズ学習について考察し,確率的複雑さを最小にするモデル選択法において,常に正値の事前分布を用いる方法とジェフリーズの事前分布を用いる方法とを,一致性及び有効性に関する観点から比較する.既に知られている理論的な命題を基盤として,二つの分布の違いについて合理的な予想を行い,その予想を実験的に検証する.特に,学習モデル族が真の分布を含んでいる場合には,ジェフリーズの事前分布が一致性・有効性の両面で優れていること,反対に,学習モデル族が真の分布を含んでいない場合には,常に正値をとる事前分布が有効性において優れていることを実験的に明らかにする.

著者

渡辺 澄夫

出版者

広島史学研究会

雑誌

史学研究 (ISSN:03869342)

巻号頁・発行日

no.39, pp.92-106, 1949-10

著者

中村 文士 渡辺 澄夫

出版者

電子情報通信学会

雑誌

電子情報通信学会技術研究報告 = IEICE technical report : 信学技報 (ISSN:09135685)

巻号頁・発行日

vol.115, no.511, pp.25-29, 2016-03-17

著者

渡辺 澄夫

出版者

大分県地方史研究会

雑誌

大分縣地方史

巻号頁・発行日

no.32, pp.10-13, 1964-01

---

論説

著者

渡辺 澄夫 Sumio Watanabe 東京工業大学精密工学研究所 Precision and Intelligence Laboratory Tokyo Institute of Technology

雑誌

人工知能学会誌 = Journal of Japanese Society for Artificial Intelligence (ISSN:09128085)

巻号頁・発行日

vol.16, no.2, pp.308-315, 2001-03-01

---

The parameter space of a hierarchical learning machine is not a Riemannian manifold since the rank of the Fisher information metric depends on the parameter.In the previous paper, we proved that the stochastic complexity is asymptotically equal to λ log n-(m-1)log log n, where λ is a rational number, m is a natural number, and n is the number of empirical samples.Also we proved that both λ and m are calculated by resolution of singularties.However, both λ and m depend on the parameter representation and the size of the true distribution.In this paper, we study Jeffreys' prior distribution which is coordinate free, and prove that 2λ is equal to the dimension of the parameter set and m=1 independently of the parameter representation and singularities.This fact indicated that Jeffreys' prior is useful in model selection and knowledge discovery, in spite that it makes the prediction error to be larger than positive distributions.

著者

渡辺 澄夫

出版者

京都大学数理解析研究所

雑誌

数理解析研究所講究録 (ISSN:18802818)

巻号頁・発行日

vol.1565, pp.124-132, 2007-07

著者

松田 健 渡辺 澄夫

出版者

The Institute of Electronics, Information and Communication Engineers

雑誌

電子情報通信学会論文誌 A (ISSN:09135707)

巻号頁・発行日

vol.J93-A, no.4, pp.300-308, 2010-04-01

---

混合モデル,ニューラルネットワーク,ベイジアンネットワークなどの特異モデルは情報工学において広く使われている.近年,特異モデルの学習の精度が特異点解消定理による代数幾何学的な方法によって明らかにされた.本論文では,重み付きブローアップによる学習係数の新しい算出方法を提案し,混合多項分布への応用によってその有用性を示した.

著者

渡辺 澄夫 Sumio Watanabe

出版者

人工知能学会

雑誌

人工知能学会誌 = Journal of Japanese Society for Artificial Intelligence (ISSN:09128085)

巻号頁・発行日

vol.16, no.2, pp.308-315, 2001-03-01

参考文献数

25

被引用文献数

20

---

The parameter space of a hierarchical learning machine is not a Riemannian manifold since the rank of the Fisher information metric depends on the parameter.In the previous paper, we proved that the stochastic complexity is asymptotically equal to λ log n-(m-1)log log n, where λ is a rational number, m is a natural number, and n is the number of empirical samples.Also we proved that both λ and m are calculated by resolution of singularties.However, both λ and m depend on the parameter representation and the size of the true distribution.In this paper, we study Jeffreys' prior distribution which is coordinate free, and prove that 2λ is equal to the dimension of the parameter set and m=1 independently of the parameter representation and singularities.This fact indicated that Jeffreys' prior is useful in model selection and knowledge discovery, in spite that it makes the prediction error to be larger than positive distributions.

著者

渡辺澄夫著

出版者

山口書店

巻号頁・発行日

1990

著者

藤原 香織 渡辺 澄夫

出版者

The Institute of Electronics, Information and Communication Engineers

雑誌

電子情報通信学会論文誌 D (ISSN:18804535)

巻号頁・発行日

vol.J91-D, no.4, pp.889-896, 2008-04-01

---

仮説検定とは,データが帰無仮説から発生していると考えることに無理があるかどうかを統計的に判断することである.仮説検定のアルゴリズムを作るためには,帰無仮説が真であると仮定したもとで,帰無仮説と対立仮説の対数ゆう度比の確率的な挙動を理論的に導出する必要があるが,特異モデルにおいては,フィッシャー情報行列が正則行列でなく,最ゆう推定量は存在する場合においても漸近的に正規分布に従わず,対数ゆう度は χ2 分布に法則収束しない.このため従来の統計的正則モデルで用いられている仮説検定手法を特異モデルに適用することはできないことが知られている.仮説検定において,帰無仮説と対立仮説がともに確率分布で与えられる場合には,ベイズ対数ゆう度比を用いた検定によって,同じ危険率のもとで検出力が最大になる.そこで,本研究では特異モデルのベイズ検定においてベイズ対数ゆう度比を用いる方法を考察し,特異モデルにおいてもベイズゆう度比の漸近挙動の導出が可能であることを明らかにする.また具体的な応用例として時系列変化問題を扱う場合における理論解析を行う. 実験により,本仮説検定法を用いた変化検出法が,適切に変化を検出し,雑音に強い変化検出法であることを明らかにする.