条件付き生成モデル反転による敵対的ロバスト分類【JST・京大機械翻訳】

Alirezaei Mitra; Tasdizen Tolga

プレプリント

J-GLOBAL ID：202202204529821890 整理番号：22P0026970

条件付き生成モデル反転による敵対的ロバスト分類【JST・京大機械翻訳】

Adversarially Robust Classification by Conditional Generative Model Inversion

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年01月12日プレプリントサーバーでの情報更新日： 2022年01月12日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ほとんどの敵対的攻撃防御方法は,傾斜勾配に依存する。これらの方法は,勾配ベース攻撃に対する防御に成功した。しかしながら,それらは,勾配を使用せず,補正勾配を近似し使用する攻撃によって,攻撃によって容易に回避される。敵対訓練のような勾配を混乱させないデフェンスは存在するが,これらのアプローチはその大きさのような攻撃について一般的に仮定する。攻撃に関する事前知識を仮定することなく,勾配を混乱させず,構築によってロバストである分類モデルを提案した。提案手法は,質問画像に最も近いサンプルを生成するクラスを見つけるために,非摂動,自然画像上で訓練された条件付き発生器を「反転」する最適化問題として分類をキャストする。敵対攻撃に対する脆性の潜在的源は,出力空間の大きな変化をもたらす入力空間における小さな摂動を見つけることができるフィードフォワード分類器の高い低次元性質であると仮定した。一方,生成モデルは典型的には低次元マッピングである。この方法は,Defense-GANに関連するが,フィードフォワード分類器の代わりに,著者らのモデルにおける条件付き生成モデルと反転の使用は,重要な違いである。Defense-GANと異なり,容易に回避される混乱した勾配を生成することを示した。著者らは,著者らのモデルがブラックボックス攻撃に対して非常にロバストであり,自然訓練されたフィードフォワード分類器と比較して,ホワイトボックス攻撃に対してロバスト性を改善することを実証した。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

データ保護 , 人工知能

, , , ,

前のページに戻る