文献

J-GLOBAL ID：201902270617436337   整理番号：19A1120973

効率的な問合せ機構を用いたディープニューラルネットワークにおける実用的ブラックボックス攻撃【JST・京大機械翻訳】

Practical Black-Box Attacks on Deep Neural Networks Using Efficient Query Mechanisms

著者 (4件)： Bhagoji Arjun Nitin (Princeton University, Princeton, USA) ,  He Warren (University of California, Berkeley, Berkeley, USA) ,  Li Bo (University of Illinois at Urbana-Champaign, Champaign, USA) ,  Song Dawn (University of California, Berkeley, Berkeley, USA)
資料名： Lecture Notes in Computer Science  (Lecture Notes in Computer Science)
巻： 11216  ページ： 158-174  発行年： 2018年 
JST資料番号： H0078D  ISSN： 0302-9743  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： 深いニューラルネットワーク(DNNs)上の既存のブラックボックス攻撃は,局所的に訓練されたモデルに対して生成された敵のインスタンスが,他の学習モデルを攻撃するために「伝達」を可能にする移動性に大きく焦点を合わせている。本論文では,転送可能性に依存しない目標モデルのクラス確率に対する質問アクセスを持つ敵に対する新しい勾配推定ブラックボックス攻撃を提案した。また,入力の次元から各敵サンプルを生成するために必要な質問数を分離する戦略を提案した。著者らの攻撃の反復変異体は,DNNs上の標的化および非標的化攻撃の両方に対して100%攻撃成功率に近い。ブラックボックス攻撃の完全な比較評価を行い,Gradient推定攻撃がMNISTとCIFAR-10データセット上の最新の白色ボックス攻撃に類似した攻撃成功率を達成することを示した。また,Clarifaiによりホストされた実世界分類器に対して,勾配推定攻撃をうまく適用した。さらに,著者らは,敵の訓練に基づく最先端の防御に対するブラックボックス攻撃を評価して,勾配推定攻撃がこれらの防御に対してさえ非常に効果的であることを示した。Copyright 2018 Springer Nature Switzerland AG Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： *ニューラルネットワーク ,  学習モデル ,  *ブラックボックス ,  ターゲティング
準シソーラス用語： 画像分類 ,  ツゲ属 ,  比較評価 ,  成功率 ,  移動性 ,  *ディープニューラルネットワーク , 【Automatic Indexing@JST】

著者キーワード (4件)： ディープニューラルネットワーク ,  画像分類 ,  敵対例 ,  ブラックボックス攻撃

分類 (1件)： データ保護  (JD01020V)

タイトルに関連する用語 (4件)： 問合せ ,  ディープニューラルネットワーク ,  ブラックボックス ,  攻撃