再開始非凸加速勾配降下:O(ε-7/4)複雑性における多くのポリ対数因子【JST・京大機械翻訳】

Li Huan; Lin Zhouchen

プレプリント

J-GLOBAL ID：202202212193099647 整理番号：22P0280571

再開始非凸加速勾配降下:O(ε-7/4)複雑性における多くのポリ対数因子【JST・京大機械翻訳】

Restarted Nonconvex Accelerated Gradient Descent: No More Polylogarithmic Factor in the $O(\epsilon^{-7/4})$ Complexity

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年01月27日プレプリントサーバーでの情報更新日： 2023年04月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文は,Lipschitz連続勾配とHessianによる非凸最適化のための加速勾配法を研究した。2つの簡単な加速勾配法,再起動加速勾配降下(AGD)および再起動重球(HB)法を提案して,著者らの方法が基本証明による勾配評価のO(ε ̄-7/4)数の中でε近似一次定常点を達成することを立証した。理論的には,著者らの複雑性は,任意の多対数因子を隠さず,従って,それはO(log1/ε)因子によって最良の既知のものを越えて改善した。著者らのアルゴリズムは,それらがNsterovの古典的AGDまたはPolyakのHB反復,ならびに再開機構だけから成るという意味で単純である。それらは,サブルーチンとして正則化代理関数の負の曲率開発または最小化を呼び起こさない。既存の解析とは対照的に,著者らの基本的証明は,より高度な技術を用いず,強く凸のAGDまたはHBの解析を呼び起こさない。コードはhttps://github.com/lihuanML/RestartAGDで利用可能である。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

計算理論 , 高分子固体の構造と形態学 , 燃焼理論 , 高分子材料一般 , 波動方程式の解法,散乱理論

, , , , , ,

前のページに戻る