弱凸および多重凸代理による確率的正則化最小化【JST・京大機械翻訳】

Lyu Hanbaek

プレプリント

J-GLOBAL ID：202202216198901994 整理番号：22P0023889

弱凸および多重凸代理による確率的正則化最小化【JST・京大機械翻訳】

Stochastic regularized majorization-minimization with weakly convex and multi-convex surrogates

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (1件)：
資料名：
発行年： 2022年01月05日プレプリントサーバーでの情報更新日： 2023年03月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

確率的主要化最小化(SMM)は,新しいデータ点をサンプリングし,目的関数の代理関数の再帰的平均を最小化することにより進行する確率的最適化アルゴリズムのクラスである。代理は,一般的非凸設定のための強い凸と収束速度解析が利用可能でないために必要だった。本論文では,代用物が弱い凸型またはブロック型マルチ凸型のみであるようなSMMの拡張を提案し,平均サロゲートは,それぞれ,近位正則化あるいは縮小半径内でブロック最小化により最小化される。非i.i.d.データサンプルによる一般的非凸制約設定のために,著者らは,提案アルゴリズムの1次最適ギャップが,経験的損失のために,速度O((logn) ̄1+ε/n ̄1/2)で減衰し,そして,nが処理されるデータサンプルの数を示す,予想損失のためのO((logn) ̄1+ε/n ̄1/4)で減衰することを示した。いくつかの付加的仮定の下で,後者の収束速度をO((logn) ̄1+ε/n ̄1/2)に改良することができた。共ロールとして,著者らは,一般的非凸依存データ設定の下で,種々の最適化方法のための最初の収束速度限界を得た:二重平均化投影勾配降下とその一般化,近位点経験的リスク最小化,およびオンラインマトリックス/テンソル分解アルゴリズム。また,著者らの結果の実験的検証を提供した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , 【Automatic Indexing@JST】

数値計算 , 信号理論

, , , ,

前のページに戻る