文献

J-GLOBAL ID：202002270671242085   整理番号：20A2246862

微分進化に基づくブラックボックス敵対サンプル生成【JST・京大機械翻訳】

Black-box adversarial sample generation based on differential evolution

著者 (6件)： Lin Junyu (State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China) ,  Lin Junyu (Department of Computer Science and Technology, Nanjing University, Nanjing, China) ,  Xu Lei (State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China) ,  Xu Lei (Department of Computer Science and Technology, Nanjing University, Nanjing, China) ,  Liu Yingqi (Department of Computer Science, Purdue University, West Lafayette, USA) ,  Zhang Xiangyu (Department of Computer Science, Purdue University, West Lafayette, USA)
資料名： Journal of Systems and Software  (Journal of Systems and Software)
巻： 170  ページ： Null  発行年： 2020年 
JST資料番号： C0845B  ISSN： 0164-1212  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： オランダ (NLD)  言語： 英語 (EN)

抄録/ポイント： 深層ニューラルネットワーク(DNN)は,オブジェクト検出,音声処理,および機械翻訳のような様々な日常タスクで使用されている。しかし,DNNは,DNNの誤行動に導く敵対サンプルと呼ばれるロバスト性問題に悩まされることが知られている。本論文では,DNNモデルのロバスト性を試験するために,ブラックボックスMomentum反復高速勾配信号法(BMI-FGSM)と呼ばれるブラックボックス技術を提案した。この手法は,ターゲットDNNの構造や重みの知識を必要としない。勾配のようなモデル内部情報をアクセスすることを必要とする既存のホワイトボックス試験技術と比較して,この技術は微分進化を通して勾配を近似し,敵対サンプルを構築するために近似勾配を使用する。実験結果は,著者らの技法が誤分類を誘発するための敵対サンプルの生成において100%の成功を達成でき,特定のターゲット出力ラベルに誤分類を誘発するためにサンプルを生成する際に95%以上の成功を達成できることを示した。また,より良い摂動距離とより良い移動可能性を実証した。最先端のブラックボックス技術と比較して,著者らの技術はより効率的である。さらに,市販のAliyun APIに関する試験を実施し,限られた数のクエリ内でその誤行動を成功裏にトリガし,実世界のブラックボックス攻撃の実現可能性を実証した。Copyright 2020 Elsevier B.V., Amsterdam. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 機械翻訳 ,  近似法 ,  *ブラックボックス ,  音声処理 ,  摂動 ,  ロバスト性
準シソーラス用語： 物体検出 ,  クエリー ,  *微分進化 ,  ディープニューラルネットワーク , 【Automatic Indexing@JST】

著者キーワード (4件)： 敵対サンプル ,  微分進化 ,  ブラックボックス試験 ,  深層ニューラルネットワーク

分類 (2件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 微分進化 ,  ブラックボックス ,  敵対 ,  サンプル