早期停止による運動量勾配降下の陰的正則化【JST・京大機械翻訳】

Wang Li; Zhou Yingcong; Fu Zhiguo

プレプリント

J-GLOBAL ID：202202216038979563 整理番号：22P0027642

早期停止による運動量勾配降下の陰的正則化【JST・京大機械翻訳】

The Implicit Regularization of Momentum Gradient Descent with Early Stopping

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月14日プレプリントサーバーでの情報更新日： 2022年01月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

勾配ベース最適化により誘起された陰的正則化に関する研究は長年の追跡である。本論文では,明示的l_2正則化(リッジ)と比較して,初期停止による運動量勾配降下(MGD)の陰的正則化を特性化した。詳細において,著者らは,連続時間ビュー,いわゆる運動量勾配流(MGF)におけるMGDを研究して,その傾向が,少なくとも2乗回帰のために勾配降下(GD)[Ali他,2019]よりリッジに近いことを示した。さらに,キャリブレーションt=√2/λの下で,tがMGFの時間パラメータであり,λがリッジ回帰の同調パラメータであることを証明し,MGFのリスクはリッジの1.54倍以上である。特に,リッジに対するMGFの相対的Bayesリスクは,最適同調の下で1と1.035の間である。数値実験は,著者らの理論的結果を強く支持する。【JST・京大機械翻訳】

, , , , , , , ,
, , 【Automatic Indexing@JST】

相変化を伴う熱伝達

, , , ,

前のページに戻る