文献

J-GLOBAL ID：201902220026476654   整理番号：19A2417359

ニューラルネットワークのための準Newton訓練の運動量加速【JST・京大機械翻訳】

Momentum Acceleration of Quasi-Newton Training for Neural Networks

著者 (4件)： Mahboubi Shahrzad (Shonan Institute of Technology, Fujisawa, Kanagawa, Japan) ,  Indrapriyadarsini S. (Shizuoka University, Hamamatsu, Shizuoka, Japan) ,  Ninomiya Hiroshi (Shonan Institute of Technology, Fujisawa, Kanagawa, Japan) ,  Asai Hideki (Shizuoka University, Hamamatsu, Shizuoka, Japan)
資料名： Lecture Notes in Computer Science  (Lecture Notes in Computer Science)
巻： 11671  ページ： 268-281  発行年： 2019年 
JST資料番号： H0078D  ISSN： 0302-9743  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 本論文では,ニューラルネットワークにおける訓練のための運動量項を用いた準ニュートン法(QN)の新しい加速手法について述べた。最近,Nesterovの加速準ニュートン法(NAQ)は,運動量項が反復数の低減と収束速度の加速に有効であることを示している。しかしながら,勾配は,NAQ訓練における1回の反復の間,2回を計算しなければならなかった。これは,従来のQNと比較して,訓練ループの計算時間を増加させた。本研究では,NAQにおいて使用されるNesterovの加速勾配を,電流と以前の勾配の線形結合として近似することにより,NAQへの改良を行った。次に,勾配をQNと同じ反復当たりに1回だけ計算した。提案したアルゴリズムの性能を,関数モデリングのベンチマーク問題とマイクロ波回路モデリングの実世界問題に関する計算機シミュレーションにより評価した。結果は,従来の訓練アルゴリズムと比較して,計算時間の著しい加速を示した。Copyright 2019 Springer Nature Switzerland AG Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： マイクロ波回路 ,  モデリング ,  *ニューラルネットワーク ,  電流 ,  *運動量 ,  アルゴリズム ,  擬似Newton法 ,  学習アルゴリズム ,  ベンチマーク ,  計算機シミュレーション
準シソーラス用語： 線形結合 ,  収束速度 , 【Automatic Indexing@JST】

著者キーワード (5件)： ニューラルネットワーク ,  訓練アルゴリズム ,  準Newton法 ,  Nesterovの加速準Newton法 ,  運動量項

分類 (3件)： 人工知能  (JE08000Z) ,  分子・遺伝情報処理  (JE15040B) ,  ニューロコンピュータ  (JC06010Q)

タイトルに関連する用語 (4件)： ニューラルネットワーク ,  訓練 ,  運動量 ,  加速