異種階層ネットワークのためのマルチレベル局所SGD【JST・京大機械翻訳】

Castiglia Timothy; Das Anirban; Patterson Stacy

プレプリント

J-GLOBAL ID：202202212379126172 整理番号：21P0041499

異種階層ネットワークのためのマルチレベル局所SGD【JST・京大機械翻訳】

Multi-Level Local SGD for Heterogeneous Hierarchical Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年07月27日プレプリントサーバーでの情報更新日： 2022年02月18日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

不均一マルチレベルネットワークにおいて,滑らかで非凸な目的を学習するための分散勾配法であるマルチレベル局所SGDを提案した。このネットワークモデルは,単一ハブと複数の作業者ノードを持つ,一組の互いに素なサブネットワークから成る。さらに,労働者ノードは,異なる運転速度を持つかもしれない。ハブは,接続されたが,必ずしも完全な通信ネットワークではなく,互いの情報を交換する。著者らのアルゴリズムでは,サブネットワークがハブとスポークパラダイムを用いて分散SGDアルゴリズムを実行し,ハブは隣接ハブでそれらのモデルを周期的に平均する。最初に,多重レベル局所SGDアルゴリズムを記述する統一数学的フレームワークを提供した。次に,アルゴリズムの理論解析を提示した。本解析は,作業者ノード不均一性,ハブネットワークトポロジー,および局所,サブネットワーク,およびグローバル反復の数に対する収束誤差の依存性を示した。凸型と非凸型の両目的を用いたシミュレーションベースの実験により,理論的結果をバックアップした。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

計算機網 , 無線通信一般

前のページに戻る