Adamの解剖:確率勾配の符号,マグニチュードおよび分散【JST・京大機械翻訳】

Balles Lukas; Hennig Philipp

プレプリント

J-GLOBAL ID：202202214423464814 整理番号：22P0040841

Adamの解剖:確率勾配の符号,マグニチュードおよび分散【JST・京大機械翻訳】

Dissecting Adam: The Sign, Magnitude and Variance of Stochastic Gradients

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2017年05月22日プレプリントサーバーでの情報更新日： 2020年12月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ADAM最適化器は,深層学習コミュニティにおいて非常に一般的である。しばしば,それは非常に良く機能し,時には,それはそうではない。Why。ADAMを2つの側面の組合せとして解釈する:各重みに対して,更新方向を確率的勾配の符号によって決定し,一方,更新の大きさはそれらの相対分散の推定によって決定した。これら2つの側面を解き,それらを単離で分析し,ADAMの根底にある機構への洞察を得た。この解析はまた,一般化に対するADAMの悪影響に関する最近の結果を拡張し,問題の1つとしてサインの側面を隔離する。SGDへの分散適応の転送は新しい方法をもたらし,ADAMが失敗する問題に対する実践者のツールボックスを完成する。【JST・京大機械翻訳】

, , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , パターン認識

, , , ,

前のページに戻る