ランダム特徴と分散勾配降下による分散学習【JST・京大機械翻訳】

Richards Dominic; Rebeschini Patrick; Rosasco Lorenzo

プレプリント

J-GLOBAL ID：202202211461971615 整理番号：22P0165945

ランダム特徴と分散勾配降下による分散学習【JST・京大機械翻訳】

Decentralised Learning with Random Features and Distributed Gradient Descent

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年07月01日プレプリントサーバーでの情報更新日： 2020年07月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

エージェントのネットワークが同一未知分布から独立にサンプリングされたデータを与える均一設定において,陰的正則化とランダム特徴を有する分散勾配降下の一般化性能を研究した。メモリフットプリントの低減とともに,ランダム特徴が,分散カーネル回帰を実行する際に以前の困難を克服することができるエージェントを通して共通のパラメタリゼーションを提供するので,この設定において特に便利である。標準ソースと容量仮定の下で,ステップサイズ,反復回数,通信行列の逆スペクトルギャップ,およびランダム特徴の数の関数として,各エージェントに対する予測性能に関する高い確率限界を確立した。これらのパラメータを調整することにより,ネットワーク中の全サンプル数に関してミニマックス最適である統計的速度を得た。アルゴリズムは,メモリコストにおける単一マシン勾配降下物に対して線形改善を提供し,エージェントがネットワークサイズと逆スペクトルギャップに関して十分なデータを保持するとき,任意のネットワークトポロジーのための計算実行時間における線形スピードアップを提供した。ランダム特徴の数,反復およびサンプルが予測性能にどのように影響するかを示すシミュレーションを提示した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

計算機網 , 人工知能 , 電話・データ通信・交換一般 , 統計学 , 数値計算

, ,

前のページに戻る