著者

大関 真之 一木 輝久

出版者

東北大学

雑誌

挑戦的萌芽研究

巻号頁・発行日

2016-04-01

---

機械学習アルゴリズムの多くは勾配降下法に基づき、その都度パラメータを更新する。その更新に際して極小の谷に落ち込むことがしばしばある。その回避のために熱揺らぎに相当するガウスノイズを導入する、シミュレーテッドアニーリング法、さらには量子揺らぎを導入する量子アニーリング法が物理学サイドからは提案されている。現在投稿中の論文は、深層学習における量子揺らぎの導入によってもたらされる効果の検証を行ったものである。量子揺らぎの導入により、トンネル効果によって極小の谷を超える効果を期待することはもちろんであるが、有限の量子揺らぎにより、谷の中における谷の形状の探索が可能であることが判明した。この形状の探索により、機械学習アルゴリズムの性能指標として最も重要な汎化性能が向上することが判明した。数値実験として極めて汎用的なオープンデータセットについて検証を行ったところ、良好な汎化性能を獲得した。この汎化性能の起源について、解析的検討を行ったところ、極小の周りの揺らぎをガウス分布の形で取り入れており、MM勾配降下法を採用すると、エントロピー勾配効果法として知られる海外の有力グループの手法を系統的に導出することができた。またこの手法は計算リソースを大半に割くため、MM勾配降下法だけでなく簡易的な手法にする他のタイプの近似を導入する可能性についても検討を行った。特に励起状態への遷移を考慮した離散的ノイズを導入すると、対応するフォッカープランク方程式に補正項が加わり、確率分布の形状による改善効果がもたらされることが判明した。この成果も突如得られたものであるため、最終年度である次年度に出版をする予定である。

著者

小谷 元子 大西 立顕 内藤 久資 高見 誠一 一木 輝久 古田 幹雄 青柳 岳司 下川 航也 橋本 幸士

出版者

東北大学

雑誌

新学術領域研究(研究領域提案型)

巻号頁・発行日

2017-06-30

---

本領域は、数学と物質・材料科学の連携により、「次世代物質探索のための離散幾何解析学」を創成することを目指すものである。原子・分子のようなミクロ構造やナノ粒子などのメゾ構造(これらを階層的ネットワークと理解)と、物質・材料のマクロな性質つまり物性・機能の関係を幾何学的に記述し解析することで、物質のミクロ・メゾ構造とマクロな物性・機能の関係を解明し(順問題)、求められる物性・機能を持つミクロ・メゾ構造の予見(逆問題)、更に構造を生成する動的構造形成の制御(最適化・制御)を行うことを目指し数理モデルの構築、シミュレーションと理論による検証を踏まえた最適構造の提案とそれに基づく物質合成を計画している。総括班は、このような異分野融合研究を効率よく行うための議論の場の提供、チュートリアル的な勉強会の企画・運営、領域全体に資する国際研究集会の運営、成果発信のためのニュースレターの発行などを行った。また、研究班でカバーできない研究課題を分析し、新手法の提案・提起に柔軟に対応するため公募計画を策定し、領域会議において計画研究、および公募研究の間の情報交換と議論を行った。異なる分野、班の間をつなぐためのインターフェースとなる若手研究者を配置した。彼らは領域内の項目間の融合を促進するための勉強会やワークショップの企画、ニュースレターの作成を行うとともに、彼ら自身も連携研究を行い、論文および国際研究集会等において成果を発表した。公募研究をより有効に連結させ相乗効果を上げるために、チームを超えた連携研究を奨励するための連携研究支援を行い論文として発表することができた。領域代表者は特に本領域研究に関していくつかの重要な国際会議でプレナリー講演やサーベイ講演を行い、領域の確立に向けて情報発信を積極的に行った。