連合学習のための単一ショットハイパーパラメータ最適化:一般的アルゴリズムと解析【JST・京大機械翻訳】

Zhou Yi; Ram Parikshit; Salonidis Theodoros; Baracaldo Nathalie; Samulowitz Horst; Ludwig Heiko

プレプリント

J-GLOBAL ID：202202210041617895 整理番号：22P0290950

連合学習のための単一ショットハイパーパラメータ最適化:一般的アルゴリズムと解析【JST・京大機械翻訳】

Single-shot Hyper-parameter Optimization for Federated Learning: A General Algorithm & Analysis

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年02月16日プレプリントサーバーでの情報更新日： 2022年02月16日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

連合学習(FL-HPO)のためのハイパーパラメータ最適化(HPO)の比較的未探索問題に取り組んだ。著者らは,勾配ブースティング訓練アルゴリズムを含む表データおよび任意のマシン学習(ML)モデルの使用事例を扱うことができる一般的FL-HPO解法フレームワークである,Feded Slosed Surface Aggregation(FLoRA)を導入し,従って,FL-HPOの範囲をさらに拡大した。FLoRAは単一ショットFL-HPO:単一FL訓練で使われる良好なハイパーパラメータの単一セットの同定を可能にする。したがって,それはHPOなしのFL訓練と比較して,最小の追加通信オーバヘッドを有するFL-HPO溶液を可能にする。FL-HPOの最適性ギャップを理論的に特性化し,それは,FLシステムの支配的な特性である,パーティの局所的データ分布の不均一非IID特性を明確に説明する。7つのOpenMLデータセット上の多重MLアルゴリズムに対するFLoRAの経験的評価は,考慮されたベースラインを超える重要なモデル精度改善と,FL-HPO訓練に関与する関係者数の増加に対するロバスト性を示した。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

燃料電池

, , , , ,

前のページに戻る