事後平均化による連合学習:新しい展望と実用的アルゴリズム【JST・京大機械翻訳】

Al-Shedivat Maruan; Gillenwater Jennifer; Xing Eric; Rostamizadeh Afshin

プレプリント

J-GLOBAL ID：202202219738650782 整理番号：21P0053607

事後平均化による連合学習:新しい展望と実用的アルゴリズム【JST・京大機械翻訳】

Federated Learning via Posterior Averaging: A New Perspective and Practical Algorithms

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年10月11日プレプリントサーバーでの情報更新日： 2021年01月29日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

反復学習は,典型的に最適化問題としてアプローチされ,そこでは,局所データを持ち,大域的目的の異なる部分を特定する,クライアントデバイスを通して計算を分散することにより,大域的損失関数を最小化することが目標である。代替展望を示し,事後推論問題として連合学習を定式化し,そこでは,目標が,クライアントデバイスがそれらの局所データの後部を推論することにより,大域的事後分布を推論することである。正確な推論はしばしば扱いにくいが,この展望は連合された設定における大域的最適条件を探索するための原理的方法を提供する。さらに,連合二次目的の解析により,計算-および通信-効率的近似事後推論アルゴリズム-供給事後平均化(FedPA)を開発した。このアルゴリズムは,クライアント上の局所後部の近似推論のためにMCMCを使用し,それらの統計をサーバに効率的に通信し,後者を用いて事後モードの大域的推定を精密化する。最後に,FedPA一般化平均化(FedAvg)は,適応最適化者から同様に利点があり,4つの現実的で挑戦的なベンチマークに関する最新の結果をもたらし,より迅速に収束し,より最適に収束することを示した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

信号理論 , 人工知能 , 数値計算

, , ,

前のページに戻る