著者
園田 翔
出版者
早稲田大学
巻号頁・発行日
pp.11-214, 2016

早大学位記番号:新7508
著者
園田 翔
出版者
一般社団法人 日本統計学会
雑誌
日本統計学会誌 (ISSN:03895602)
巻号頁・発行日
vol.50, no.2, pp.285-316, 2021-03-05 (Released:2021-03-05)
参考文献数
58

本稿では,ニューラルネットの積分表現に関する最近の研究結果を紹介する.深層学習の理論研究において,積分表現を用いてニューラルネットを関数解析的に取り扱う方法が発展しつつある.ところが,積分表現作用素Sが定義される空間の構造は多くのことが未解明である.さらに,には無限次元の零空間ker Sが存在するということもあまり認知されていない.本稿では,積分表現に纏わる複数の問題を取り上げながら,それぞれの文脈においてやker Sの特徴づけについて考察を加えていく.
著者
園田 翔
出版者
一般社団法人 日本応用数理学会
雑誌
応用数理 (ISSN:24321982)
巻号頁・発行日
vol.33, no.1, pp.4-13, 2023-03-24 (Released:2023-06-30)
参考文献数
30

Characterization of the typical deep learning solutions is crucial to understanding and controlling deep learning. Due to the complex structure of real deep neural networks (NNs), various simplified mathematical models are employed in conventional theoretical analysis. In this study, we describe a mathematical model of a single hidden layer in an NN, which is an integral representation of NNs, and its right inverse operator (or analysis operator), the ridgelet transform. Furthermore, while the classical ridgelet transform was obtained heuristically, we had recently developed a natural technique to derive it. As an application, we succeeded in developing an NN on manifolds (noncompact symmetric spaces) and deriving the associated ridgelet transform.