著者

秋本 洋平

出版者

一般社団法人 システム制御情報学会

雑誌

システム/制御/情報 (ISSN:09161600)

巻号頁・発行日

vol.60, no.7, pp.292-297, 2016-07-15 (Released:2017-03-24)

参考文献数

31

被引用文献数

2

著者

佐藤 怜 福地 一斗 佐久間 淳 秋本 洋平

出版者

人工知能学会

雑誌

2020年度 人工知能学会全国大会(第34回)

巻号頁・発行日

2020-04-01

著者

佐藤 怜 秋本 洋平 佐久間 淳

出版者

人工知能学会

雑誌

2019年度 人工知能学会全国大会(第33回)

巻号頁・発行日

2019-04-08

---

Neural Architecture Searchが深層学習のアーキテクチャを自動的に設計するためのアプローチとして注目を集めている. 本研究では, アーキテクチャと重みを同時に最適化するone-shotアーキテクチャ探索の高速化を目的とし, 貢献度分配を導入した方策勾配による探索法を提案する. 提案手法では, 貢献度と呼ばれるアーキテクチャを構成する複数の部分それぞれに対しての報酬を定義し, これをアーキテクチャパラメータの勾配の計算に用いる. 実験で, 最近提案された勾配法によるone-shotアーキテクチャ探索の先行研究と比較し, 提案手法では同程度の精度のアーキテクチャをより高速に発見できることを示す.

著者

西田 昂平 秋本 洋平

出版者

進化計算学会

雑誌

進化計算学会論文誌 (ISSN:21857385)

巻号頁・発行日

vol.8, no.2, pp.61-74, 2017 (Released:2017-12-01)

参考文献数

17

---

The population size, i.e., the number of candidate solutions per iteration, is the only parameter for the covariance matrix adaptation evolution strategy (CMA-ES) that needs to be tuned depending on the ruggedness and the uncertainty of the objective function. The population size has a great impact on the performance of the CMA-ES, however, it is prohibitively expensive in black-box scenario to tune the population size in advance. Moreover, a reasonable population size is not constant during the optimization. In this paper, we propose a novel strategy to adapt the population size. We introduce the evolution path in the parameter space of the Gaussian distribution, which accumulates successive parameter updates. Based on the length of the evolution path with respect to the Fisher metric, we quantify the accuracy of the parameter update. The population size is then updated so that the quantified accuracy is kept in the constant range during search. The proposed strategy is evaluated on test functions including rugged functions and noisy functions where a larger population size is known to help to find a better solution. The experimental results show that the population size is kept as small as the default population size on unimodal functions, and it is increased at the early stage of the optimization of multimodal functions and decreased after the sampling distribution is concentrated in a single valley of a local optimum. On noisy test functions, the proposed strategy start increasing the population size when the noise-to-signal ratio becomes relatively high. The proposed strategy is compared with the CMA-ES and the state-of-the-art uncertainty handling in the CMA-ES, namely UH-CMA-ES, with a hand-tuned population sizes.