文献

J-GLOBAL ID：202202266162621961   整理番号：22A0554322

勾配漏洩攻撃耐性深層学習【JST・京大機械翻訳】

Gradient Leakage Attack Resilient Deep Learning

著者 (2件)： Wei Wenqi (School of Computer Science, Georgia Institute of Technology, Atlanta, GA, USA) ,  Liu Ling (School of Computer Science, Georgia Institute of Technology, Atlanta, GA, USA)
資料名： IEEE Transactions on Information Forensics and Security  (IEEE Transactions on Information Forensics and Security)
巻： 17  ページ： 303-316  発行年： 2022年 
JST資料番号： W1570A  ISSN： 1556-6013  CODEN： ITIFA6  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 勾配漏洩攻撃は,モデル訓練品質を損なうことなく,反復訓練中の攻撃者被覆勾配更新として,深い学習におけるウィックなプライバシー脅威の1つと考えられ,また,高い攻撃成功率で漏れた勾配を用いて,高感度訓練データを秘密に再構成する。微分プライバシーによる深層学習は,微分プライバシー保証による深層学習モデル出版のためのデファクト標準であるが,固定プライバシーパラメータを有する差動プライベートアルゴリズムが,勾配漏洩攻撃に対して脆弱であることを示した。本論文では,微分プライバシー(DP)による勾配漏洩弾性深層学習に対する代替アプローチを検討した。最初に,固定プライバシーパラメータを用いてすべての層における勾配に一定の雑音を注入するために固定雑音分散を使用する,微分プライバシーによる深層学習の既存の実装を解析した。DP保証にもかかわらず,この方法は低い精度に悩まされ,勾配漏洩攻撃に脆弱である。第二に,動的プライバシーパラメータを用いて,微分プライバシー保証による勾配漏洩弾性深層学習手法を提案した。一定の雑音分散をもたらす固定パラメータ戦略とは異なり,異なる動的パラメータ戦略は,適応雑音分散と適応雑音注入を導入するための代替技術を提示し,これは,差分プライベートモデル訓練中の勾配更新の傾向に密接に整列する。最後に,代替手法を評価し,比較するための4つの補完的計量を述べた。6つのベンチマークデータセットに関する広範な実験は,動的プライバシーパラメータによる差動プライベート深層学習が,固定DPパラメータを用いた深層学習と,すべての側面における既存の適応クリッピング手法,すなわち,優れた精度性能,強い微分プライバシー保証,および高い攻撃レジリエンス,を凌駕することを示した。Copyright 2022 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 雑音 ,  データ ,  弾性 ,  被覆 ,  精度 ,  適応 ,  微分 ,  プライバシー ,  ウィック ,  人間 ,  パラメータ ,  ベンチマーク ,  *機械学習 ,  *サイバー攻撃
準シソーラス用語： 訓練データ ,  脆弱性 ,  *深層学習 ,  攻撃者 , 【Automatic Indexing@JST】

分類 (3件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z) ,  データ保護  (JD01020V)

タイトルに関連する用語 (4件)： 勾配 ,  漏洩 ,  攻撃耐性 ,  深層学習