ブラックボックス差分技法を用いた敵対入力の生成【JST・京大機械翻訳】

Juunior Joao Batista Pereira Matos; Cordeiro Lucas Carvalho; d'Amorim Marcelo; Huang Xiaowei

プレプリント

J-GLOBAL ID：202202205765740270 整理番号：22P0169544

ブラックボックス差分技法を用いた敵対入力の生成【JST・京大機械翻訳】

Generating Adversarial Inputs Using A Black-box Differential Technique

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年07月10日プレプリントサーバーでの情報更新日： 2020年07月10日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ニューラルネットワーク(NN)は敵対攻撃に対して脆弱であることが知られている。悪意のあるエージェントは,2つの入力がNNによって異なって分類されたように,入力を他のものに摂動することによって,これらの攻撃を開始する。本論文では,NNモデルの弱点だけでなく,2つのNNモデル間の異なる挙動も示すように,NNモデルの弱点を示すことができる特別なクラスの敵対例を考察した。それらを差分誘導敵対例またはDIAEと呼ぶ。特に,著者らは,敵対的入力生成のための最初のブラックボックス微分技術であるDAEGENを提案した。DAEGENは,同じ分類問題の入力2つのNNモデルであり,敵対的用例のアウトプットに関して報告した。得られた敵対事例はDIAEであり,2つのNNモデル間の入力空間における点ごとの差を表す。アルゴリズム的に,DAEGENは局所探索ベース最適化アルゴリズムを用いて,入力を予測する2つのモデルの差を最大化するために入力を反復的に摂動することによってDIAEを見つける。ベンチマークデータセット(例えば,MNIST,ImageNet,および運転)とNNモデル(例えば,LeNet,ResNet,Dave,およびVGG)のスペクトルに関する実験を行った。実験結果は有望である。第1に,DAEGENを2つの既存のホワイトボックス微分技術(DeepXploreとDLFuzz)と比較し,同じ設定の下で,DAEGENは,1)有効,すなわち,すべての場合において攻撃を生成するのに成功する唯一の技術であり,2)正確な,すなわち,敵対的攻撃は,機械と人間をoolぐこと,および3)効率的,すなわち,効率的,即ち,妥当な数の分類クエリを必要とする,という事を見出した。第2に,著者らは,差動設定に関する作業に順応することによって,最先端のブラックボックス敵対攻撃法(simbaとtremba)とDAGENを比較した。実験結果は,DAEGENがそれらの両方より良いことを示した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

データ保護 , パターン認識 , 人工知能

, , ,

前のページに戻る