連合学習におけるバックドア攻撃の軽減【JST・京大機械翻訳】

Wu Chen; Yang Xian; Zhu Sencun; Mitra Prasenjit

プレプリント

J-GLOBAL ID：202202211886632342 整理番号：21P0058845

連合学習におけるバックドア攻撃の軽減【JST・京大機械翻訳】

Mitigating Backdoor Attacks in Federated Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年10月28日プレプリントサーバーでの情報更新日： 2021年01月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

不正なクライアントは,訓練フェーズの間,バックドアサンプルを含む悪意のあるデータを使用して,連合学習システムを攻撃する。妥協されたグローバルモデルは,タスクのために設計された検証データセット上でよく機能するが,バックドアパターンを有するデータの小さい部分集合は,間違った予測を行うためのモデルを誘発する可能性がある。サーバ側の訓練の集約段階中に攻撃を検出しようと試みた攻撃者と防御者の攻撃を試みている攻撃者の間には,腕の人種がある。本研究では,訓練フェーズ後のバックドア攻撃を緩和するための,新しい効果的な方法を提案した。具体的には,ネットワーク内の冗長なニューロンを除去し,次に,モデルの極端な重み値を調節するために,供給した剪定法を設計した。分散Fashion-MNISTT上で行った実験により,提案手法は検証データセットにおけるテスト精度の5.5%損失で,平均攻撃成功率を99.7%から1.9%に低減できることを示した。試験精度に及ぼす剪定影響を最小にするために,著者らは剪定後に微調整することができ,攻撃成功率は6.4%に低下し,試験精度の1.7%損失だけであった。CIFAR-10上の分散バックドア攻撃下の更なる実験はまた,平均攻撃成功率が検証データセットの試験精度の2%未満の損失で70%以上低下するという有望な結果を示す。【JST・京大機械翻訳】

, , ,
, , , , , , 【Automatic Indexing@JST】

データ保護

, ,

前のページに戻る