生成モデルのためのI型攻撃【JST・京大機械翻訳】

Sun Chengjin; Chen Sizhe; Cai Jia; Huang Xiaolin

プレプリント

J-GLOBAL ID：202202200203221847 整理番号：22P0119094

生成モデルのためのI型攻撃【JST・京大機械翻訳】

Type I Attack for Generative Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年03月03日プレプリントサーバーでの情報更新日： 2020年03月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

生成モデルは広範囲の応用を有する一般的なツールである。それにもかかわらず,分類器として敵対サンプルに脆弱である。既存の攻撃方法は,入力に知覚不能な摂動を加えることによって,主に敵対的用例を作り出すことに集中して,それは間違った結果に導いた。しかし,攻撃の別の側面,すなわち,著しい変化による加熱モデルに焦点を当てた。前者はタイプII誤差を誘発し,後者はタイプI誤差を引き起こす。本論文では,VAEおよびGANのような生成モデルに対するタイプI攻撃を提案した。VAEで与えられた1例は,元の画像を無意味なものに有意に変えることができるが,それらの再構成結果は類似している。タイプI攻撃を実装するために,入力空間における距離を増加させることによって元のものを破壊し,一方,異なる入力が深いニューラルネットワークの特性のための類似の特徴に対応するので,出力を同じに保つ。実験結果は,著者らの攻撃方法が大規模画像データセットに関する生成モデルのためにタイプI広告用例を作り出すために効果的であることを示した。【JST・京大機械翻訳】

, , , ,
, , , , , 【Automatic Indexing@JST】

データ保護 , 人工知能

前のページに戻る