De-Pois中毒防御の破壊【JST・京大機械翻訳】

Anani Alaa; Ghanem Mohamed; Khaliq Lotfy Abdel

プレプリント

J-GLOBAL ID：202202217319414715 整理番号：22P0324587

De-Pois中毒防御の破壊【JST・京大機械翻訳】

Breaking the De-Pois Poisoning Defense

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年04月03日プレプリントサーバーでの情報更新日： 2022年04月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

機械学習モデルに関する攻撃は,それらの概念以来,エンドレスネコおよびマウスゲームに似た非常に持続的かつ回避的問題であった。そのような攻撃の一つの主要な変異体は,MLモデルを間接的に操作できる被毒攻撃である。提案した効果的な防御モデルの大多数は,攻撃者が採用されない場合にのみ有効である。本論文では,攻撃-診断的De-Pois防御が,そのルールに対する例外ではないことを示した。実際,De-Pois防御モデルの構造を知る攻撃者による最も単純な白色-BoxとBlack-Box攻撃に対する脆弱性を示した。本質的に,De-Pois防御は,ターゲットモデルにそれを通過する前に,中毒データを検出するために使用できる批判モデルに依存する。本研究では,この毒保護層を,批判モデルを複製し,次に,批判と標的モデルの両方に対して構成した勾配サイン攻撃を実行し,同時に,ターゲットモデルを被毒するために,批評ファイアウォールを迂回することを可能にした。【JST・京大機械翻訳】

, , , , , ,
, , , , , 【Automatic Indexing@JST】

ゲーム理論 , データ保護

, ,

前のページに戻る