連合ミニマックス最適化:改良型収束解析とアルゴリズム【JST・京大機械翻訳】

Sharma Pranay; Panda Rohan; Joshi Gauri; Varshney Pramod K.

プレプリント

J-GLOBAL ID：202202207637073514 整理番号：22P0301500

連合ミニマックス最適化:改良型収束解析とアルゴリズム【JST・京大機械翻訳】

Federated Minimax Optimization: Improved Convergence Analyses and Algorithms

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年03月09日プレプリントサーバーでの情報更新日： 2022年03月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,GANのような多くの現代の機械学習アプリケーションにおいて突出する非凸ミニマックス最適化を考察した。これらのアプリケーションにおける訓練データの大規模エッジベース収集は,データを処理するために,連合学習で使用されるような通信効率の良い分散最適化アルゴリズムを要求する。本論文では,SGDAアルゴリズムの局所更新版である局所確率的勾配降下(SGDA)を解析した。SGDAはミニマックス最適化で使われるコアアルゴリズムであるが,分散設定ではよく理解されていない。局所SGDAは,いくつかのクラスの非凸凹型と非凸型非凹型ミニマックス問題に対する順序最適サンプル複雑性を持ち,また,クライアントの数に関して,線形高速化を楽しめることを証明した。既存文献における収束と通信保証を改善する,新規でタイトな解析を提供した。非凸-PLと非凸-一点凹関数に対して,集中ミニマックス問題に対する既存の複雑性結果を改善した。さらに,同じ収束保証を持つ運動量ベース局所更新アルゴリズムを提案したが,実験で示したように局所SGDAより優れている。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能 , その他のオペレーションズリサーチの手法 , システム設計・解析

, ,

前のページに戻る