大域的超線形収束による分散適応Newton法【JST・京大機械翻訳】

Zhang Jiaqi; You Keyou; Basar Tamer

プレプリント

J-GLOBAL ID：202202220715893422 整理番号：22P0001797

大域的超線形収束による分散適応Newton法【JST・京大機械翻訳】

Distributed Adaptive Newton Methods with Global Superlinear Convergence

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年02月18日プレプリントサーバーでの情報更新日： 2022年01月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,ピアツーピアネットワークの各ノードがその隣接ノードと通信することにより目的関数の有限和を最小化する分散最適化問題を考察した。最速分散アルゴリズムが大域的線形または局所超線形速度のいずれかで収束する既存の文献とは対照的に,大域的二次収束速度を持つ分散適応Newton(DAN)アルゴリズムを提案した。著者らの重要なアイデアは,Polyakの適応ステップサイズを有する有限時間集合-コンセンサス法の設計にある。さらに,各ノードが次元O(p)(ここでpは決定ベクトルの次元である)のメッセージを反復ごとに送信する必要があるように,Hessian行列の革新を圧縮するために低ランク行列近似(LA)技術を導入し,それは一次法のそれと本質的に同じである。それにもかかわらず,得られたDAN-LAは大域的超線形速度を有する最適解に収束する。ロジスティック回帰問題に関する数値実験を行い,既存の方法に対する利点を検証した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

信号理論 , 数値計算

, , ,

前のページに戻る