文献

J-GLOBAL ID：202202288374936484   整理番号：22A1043181

連合学習における勾配からのユーザレベルラベル漏洩【JST・京大機械翻訳】

User-Level Label Leakage from Gradients in Federated Learning

著者 (9件)： Wainakh Aidmar (Telecooperation Lab, Technical University of Darmstadt) ,  Ventola Fabrizio (Artificial Intelligence and Machine Learning Lab, Technical University of Darmstadt) ,  Muessig Till (Technical University of Darmstadt) ,  Keim Jens (Technical University of Darmstadt) ,  Cordero Carlos Garcia (Telecooperation Lab, Technical University of Darmstadt) ,  Zimmer Ephraim (Telecooperation Lab, Technical University of Darmstadt) ,  Grube Tim (Telecooperation Lab, Technical University of Darmstadt) ,  Kersting Kristian (Artificial Intelligence and Machine Learning Lab, Technical University of Darmstadt) ,  Muehlhaeuser Max (Telecooperation Lab, Technical University of Darmstadt)
資料名： Proceedings on Privacy Enhancing Technologies (Web)  (Proceedings on Privacy Enhancing Technologies (Web))
巻： 2022  号： 2  ページ： 227-244  発行年： 2022年 
JST資料番号： U8133A  ISSN： 2299-0984  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 反復学習は,それらのモデル更新(勾配)を共有することによって,複数のユーザを結合モデルの構築を可能にし,一方,それらの生データは,それらのデバイスに局所のままである。これがプライバシー利益を与えるという一般的な信念とは対照的に,ここでは,勾配を共有するときのプライバシーリスクに関する非常に最近の結果に追加した。特に,筆者らは,それらの共有勾配からユーザの訓練データのラベルを抽出するための新しい攻撃である勾配(LLG)からのラベル漏洩を研究した。攻撃は,任意のラベルの存在または不在を決定するために,勾配の方向と大きさを利用する。LLGは,ラベルによって表される潜在的感受性情報を漏れることができ,任意のバッチサイズと多重クラスにうまくスケールする,単純だが効果的である。異なる設定の下での攻撃の妥当性を数学的かつ経験的に実証した。さらに,経験的結果は,LLGがモデル訓練の初期段階において高精度でラベルをうまく抽出することを示した。また,このような漏洩に対する異なる防御機構を論じた。著者らの知見は,勾配圧縮が攻撃を緩和するための実用的技法であることを示唆する。Please refer to the publisher for the copyright holders. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 情報 ,  データ ,  分類 ,  漏れ ,  *ラベル ,  感受性 ,  プライバシー ,  多重化 ,  モデル ,  *利用者 ,  防御機構 ,  結合モデル ,  サイバー攻撃
準シソーラス用語： 訓練データ ,  高精度 ,  生データ , 【Automatic Indexing@JST】

著者キーワード (4件)： ラベル漏れ ,  連合学習 ,  勾配攻撃 ,  プライバシー攻撃

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (3件)： 学習 ,  勾配 ,  漏洩