文献

J-GLOBAL ID：202102225892803956   整理番号：21A1722949

深層学習におけるNelder-Mead法を用いた有効ハイパーパラメータ最適化

Effective hyperparameter optimization using Nelder-Mead method in deep learning

著者 (6件)： Ozaki Yoshihiko (Artificial Intelligence Research Center, AIST, 1-1-1 Umezono, Tsukuba, Japan) ,  Ozaki Yoshihiko (University of Tsukuba, 1-1-1 Tennodai, Tsukuba, Japan) ,  Yano Masaki (Artificial Intelligence Research Center, AIST, 1-1-1 Umezono, Tsukuba, Japan) ,  Yano Masaki (University of Tsukuba, 1-1-1 Tennodai, Tsukuba, Japan) ,  Onishi Masaki (Artificial Intelligence Research Center, AIST, 1-1-1 Umezono, Tsukuba, Japan) ,  Onishi Masaki (University of Tsukuba, 1-1-1 Tennodai, Tsukuba, Japan)
資料名： IPSJ Transactions on Computer Vision and Applications (Web)  (IPSJ Transactions on Computer Vision and Applications (Web))
巻： 9  号： 1  ページ： 1-12  発行年： 2017年 
JST資料番号： U0116A  ISSN： 1882-6695  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 深層学習においては,深層ニューラルネットワーク(DNN)ハイパーパラメータがネットワーク性能に深刻な影響を与える。現在,そのようなハイパーパラメータは,Bayes最適化や共分散行列適応進化戦略などのいくつかの方法でしばしば最適化される。しかし,これらの方法を採用することは非専門家にとって難しい。本論文では,ハイパーパラメータを最適化するために,より単純な座標探索とNelder-Mead法を採用した。文字認識と年齢/性別分類のためのDNNを構成することによって,いくつかのハイパーパラメータ最適化法を比較した。数値結果は,Nelder-Mead法が他の方法より優れ,年齢/性別分類に対して最先端の精度を達成することを示した。Please refer to the publisher for the copyright holders. Translated from English into Japanese by JST.

シソーラス用語： *機械学習 ,  *パラメータ ,  *最適化 ,  *ニューラルネットワーク ,  文字認識 ,  分類 ,  推定
準シソーラス用語： *ハイパーパラメータ ,  *パラメータ最適化 ,  *深層ニューラルネットワーク ,  *深層学習 ,  性別分類 ,  年齢推定

分類 (2件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z)

引用文献 (29件)：

• Proc IEEE; Gradient-based learning applied to document recognition; Y LeCun, L Bottou, Y Bengio, H Patrick; 86; 11; 1998; 2278-2324; 10.1109/5.726791; citation_id=CR1
• Adv Neural Inf Process Syst (NIPS); Imagenet classification with deep convolutional neural networks; A Krizhevsky, I Sutskever, GE Hinton; 25; 2012; 1097-1105; citation_id=CR2
• Christian S, Wei L, Yangqing J, Pierre S, Scott R, Dragomir A, Dumitru E, Vincent V, Andrew R (2015) Going deeper with convolutions. Comput Vis Pattern Recognit (CVPR):1-9. http://ieeexplore.ieee.org/document/7298594/ .
• J Mach Learn Res; Random search for hyper-parameter optimization; J Bergstra, Y Bengio; 13; 2012; 281-305; citation_id=CR4
• Mockus J (1974) On Bayesian Methods for Seeking the Extremum In: Optimization Techniques IFIP Technical Conference, 400-404.

タイトルに関連する用語 (3件)： 深層学習 ,  ハイパーパラメータ ,  最適化