文献

J-GLOBAL ID：201302273239561072   整理番号：13A0593827

導関数を定数に置き換える最急降下法における学習速度の理論的分析

Theoretical analysis of learning speed in gradient descent algorithm replacing derivative with constant

著者 (3件)： HARA Kazuyuki (Nihon Univ., Chiba, JPN) ,  KATAHIRA Kentaro (Univ. Tokyo, Tokyo, JPN) ,  KATAHIRA Kentaro (RIKEN)
資料名： 情報処理学会研究報告(CD-ROM)
巻： 2012  号： 5  ページ： ROMBUNNO.MPS-91,NO.28  発行年： 2013年02月15日 
JST資料番号： Z0031C  ISSN： 2186-2583  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： オンライン最急降下学習では出力の導関数項の局所特性が収束を遅くする。収束の高速化のために,自然勾配の利用によるような導関数項の改善が提案されてきた。本論文では,この洗練された方法から外れて導関数項を定数に置き換えるアルゴリズムを提案し,これがいくつかの条件下で収束速度を非常に高めることを示した。提案アルゴリズムは線形パーセプトロン学習によって動機付けられ,導関数項の局所性を避けられる。統計力学法を用いることによって閉じた決定論的な微分方程式を導出し,コンピュータシミュレーションによる解との比較によって解析解の妥当性を示した。(翻訳著者抄録)

シソーラス用語： *最急降下法 ,  導関数 ,  *収束 ,  高速化 ,  アルゴリズム ,  定数 ,  *パーセプトロン ,  線形性 ,  機械学習 ,  局所性 ,  統計力学 ,  *微分方程式 ,  計算機シミュレーション
準シソーラス用語： *線形パーセプトロン

分類 (3件)： その他のオペレーションズリサーチの手法  (KA03070E) ,  ニューロコンピュータ  (JC06010Q) ,  数値計算  (JE02000J)

タイトルに関連する用語 (6件)： 導関数 ,  定数 ,  最急降下法 ,  学習速度 ,  理論 ,  分析