損失性分散情報源符号化による連合学習:解析と最適化【JST・京大機械翻訳】

Yang Huiyuan; Ding Tian; Yuan Xiaojun

プレプリント

J-GLOBAL ID：202202217156881078 整理番号：22P0337196

損失性分散情報源符号化による連合学習:解析と最適化【JST・京大機械翻訳】

Federated Learning with Lossy Distributed Source Coding: Analysis and Optimization

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年04月22日プレプリントサーバーでの情報更新日： 2023年02月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

最近,モデル共有とデータ共有を交換する連合学習(FL)は,効率的でプライバシーに優しい機械学習(ML)パラダイムとして浮上している。FLにおける主要な課題の一つは,モデル集約のための巨大な通信コストである。多くの圧縮/量子化方式を提案し,モデル集約のための通信コストを低減した。しかし,以下の疑問は,コミュニケーションコストとFL収束性能の間の基本的トレードオフである。本論文では,この問題に答えた。具体的には,まず,レート歪理論に基づくモデル凝集性能解析のための一般的フレームワークを提案した。提案した解析フレームワークの下で,モデル凝集の速度歪領域の内部境界を導いた。次に,凝集歪とFL収束性能を結合するために,FL収束解析を行った。凝集歪最小化問題を定式化し,FL収束性能を改善した。上記の問題を解決するために2つのアルゴリズムを開発した。凝集歪,収束性能,および通信コストに関する数値結果は,ベースラインモデル凝集スキームが,更なる改善のためにまだ大きな可能性を有することを証明した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

符号理論 , 図形・画像処理一般

, , , ,

前のページに戻る