著者

本木 実 冨浦洋一 高橋 直人

雑誌

情報処理学会論文誌 (ISSN:18827764)

巻号頁・発行日

vol.47, no.8, pp.2779-2791, 2006-08-15

---

本論文では,記号列を入力し記号列を出力する階層型ニューラルネットの学習法を提案する.本論文で考察するモデルは,結合荷重だけでなく,各記号に対応する記号表現ベクトルも学習パラメータとする.この方式により,学習データの性質を反映した記号表現ベクトル(類似の使われ方をする記号の記号表現ベクトルが互いに近いベクトル)を学習することができ,予測能力の向上が期待できる.しかし,目的関数を平均二乗誤差とする通常のモデルでは,目的関数の値を最小にするタスクにとって無意味な解が存在し,出力ベクトルから記号の同定を行うと正解率がきわめて低いという問題がある.そこで本論文では,記号の同定を考慮した目的関数による学習法を提案する.実験により,提案モデルは,学習データの性質を反映した記号表現ベクトルの学習が可能であり,かつ高い正解率を持つことを示す.

著者

本木 実 冨浦洋一 高橋 直人

出版者

一般社団法人情報処理学会

雑誌

情報処理学会論文誌 (ISSN:18827764)

巻号頁・発行日

vol.47, no.8, pp.2779-2791, 2006-08-15

参考文献数

12

---

本論文では,記号列を入力し記号列を出力する階層型ニューラルネットの学習法を提案する.本論文で考察するモデルは,結合荷重だけでなく,各記号に対応する記号表現ベクトルも学習パラメータとする.この方式により,学習データの性質を反映した記号表現ベクトル(類似の使われ方をする記号の記号表現ベクトルが互いに近いベクトル)を学習することができ,予測能力の向上が期待できる.しかし,目的関数を平均二乗誤差とする通常のモデルでは,目的関数の値を最小にするタスクにとって無意味な解が存在し,出力ベクトルから記号の同定を行うと正解率がきわめて低いという問題がある.そこで本論文では,記号の同定を考慮した目的関数による学習法を提案する.実験により,提案モデルは,学習データの性質を反映した記号表現ベクトルの学習が可能であり,かつ高い正解率を持つことを示す.This paper proposes a learning method of a layered neural network whose inputs and outputs are symbol sequences. The learning parameters of the model we consider here are not only link weights but also symbol representation vectors (SRVs), each of which corresponds to each symbol. SRVs learned by this model can reflect characteristics of the training data, and are expected to lead to high performance in prediction. The conventional learning method whose objective function is mean square error has meaningless solutions for the task, which minimize the objective function. Moreover, the accuracy of the conventional model is very low when symbols are identified based on the output vectors. The learning method we propose has an objective function which is proper for identification of output symbols. Through the computational experiments, we also show that the proposed model acquires SRVs which reflect characteristics of the training data and have high performance.