Federated Learningにおいて悪意のある分散ノードを除外するための一検討

赤井怜音; 栗林稔; 舩曵信生

文献

J-GLOBAL ID：202302247524392355 整理番号：23A0885088

Federated Learningにおいて悪意のある分散ノードを除外するための一検討

A Study on Eliminating Malicious Node in Federated Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手 {{ this.onShowCLink("http://jdream3.com/copy/?sid=JGLOBAL&noSystem=1&documentNoArray=23A0885088&COPY=1") }}
高度な検索・分析はJDreamⅢで {{ this.onShowJLink("http://jdream3.com/lp/jglobal/index.html?docNo=23A0885088&from=J-GLOBAL&jstjournalNo=U2030A") }}

著者 (3件)： , ,
資料名：
巻： 122 号： 412(EMM2022 67-92) ページ： 89-94 (WEB ONLY) 発行年： 2023年02月23日
JST資料番号： U2030A ISSN： 2432-6380 資料種別：会議録 (C)
記事区分：原著論文発行国：日本 (JPN) 言語：日本語 (JA)

深層学習技術において,複数の企業や病院において持ち出し厳禁なデータを活用するために,各ノードで学習させた深層学習モデルを集約させるFederated Learning(FL)が提案されている.しかし,分散ノード中に悪意のあるノードが存在するとシステム全体の性能が低下する問題がある.本研究では,FLの代表的な手法の1つであるFederated Averaging(FedAvg)において,悪意のあるノードを除外することでシステム全体の性能低下を防ぐ手法を検討する.悪意のあるノードから中央サーバに送信される重みパラメータは,正常なノードの重みパラメータと比べて,統計的な傾向が大きく異なる.そこで提案手法では,深層学習モデル中のネットワーク間の各位置において,複数のノードから届いた重みパラメータから外れ値を除外する.計算機シミュレーションにより,この処理によって学習効率の劣化はあまり生じないことを明らかにした.さらに,FedAvgにおいて,中央サーバの学習モデルを更新するごとに,その重み情報をファイルとして保存し,ファイルを読み込み,学習を再開できるようにすることでシステム全体が性能低下する前の状態に復帰できる手法を提案し,その有効性を数量的に検証した.(著者抄録)

, , , , , , , , , , ,
, ,

人工知能 , データ保護

引用文献 (5件)：

H. Brendan McMahan, E. Moore, D. Ramage, S. Hampson, and B. Agüera yArcas, “Communication-efficient learning of deep networks from decentralized data,” Proc. International Conference on Artificial intelligence and statistics (AISTATS’17), pp.1273-1282, 2017.
Q. Li, Z. Wen, Z. Wu, S. Hu, N. Wang, Y. Li, X. Liu, and B. He, “A survey on federated learning systems: vision, hype and reality for data privacy and protection,” IEEE Trans. Knowledge and Data Engineering, pp.1-1, 2021.
E. Bagdasaryan, A. Veit, Y. Hua, D. Estrin, and V. Shmatikov, “How to backdoor federated learning,” Proc. International Conference on Artificial Intelligence and Statistics (AISTATS’20), pp.2938-2948, 2020.
K. Wei, J. Li, M. Ding, C. Ma, H.H. Yang, F. Farokhi, S. Jin, T.Q. Quek, and H.V. Poor, “Federated learning with differential privacy: Algorithms and performance analysis,” IEEE Trans. Information Forensics and Security, vol.15, pp.3454-3469, 2020.
D.J. Beutel, T. Topal, A. Mathur, X. Qiu, T. Parcollet, P.P. deGusmão, and N.D. Lane, “Flower: A friendly federated learning research framework,” arXiv preprint arXiv:2007.14390, pp.●●-●●, 2020.

前のページに戻る