文献

J-GLOBAL ID：202002222213314988   整理番号：20A2212742

量子化確率出力を用いたディープニューラルネットワーク分類器に対するブラックボックス敵対的攻撃

Black-Box Adversarial Attack against Deep Neural Network Classifier Utilizing Quantized Probability Output

著者 (7件)： Masuda Haruki (Ritsumeikan University) ,  Nakai Tsunato (Ritsumeikan University) ,  Nakai Tsunato (Mitsubishi Electric Corp.) ,  Yoshida Kota (Ritsumeikan University) ,  Kubota Takaya (Ritsumeikan University) ,  Shiozaki Mitsuru (Ritsumeikan University) ,  Fujino Takeshi (Ritsumeikan University)
資料名： Journal of Signal Processing (Web)  (Journal of Signal Processing (Web))
巻： 24  号： 4  ページ： 145-148(J-STAGE)  発行年： 2020年 
JST資料番号： U0425A  ISSN： 1880-1013  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： ディープニューラルネットワーク(DNN)は,敵対的サンプルとして知られているよく設計された入力サンプルに脆弱である。特に,敵対的サンプルの生成を含む攻撃は,ターゲットネットワークの内部知識のない敵対的攻撃時にブラックボックス攻撃と呼ばれる。単純なブラックボックス攻撃において,DNNへの入力がわずかに変化するとき,出力確率の変化に基づいて敵対的摂動が選択される。出力確率の量子化が単純なブラックボックス攻撃に対する対策として提案されてきた。本研究では,画像劣化指数を用いてこの保護法の有効性を定量的に評価し,出力確率量子化を克服する新しいブラックボックス攻撃を示した。MNIST公開データセットを用いて敵対的サンプルを生成する実験を行った。従来の方法では,出力確率の少数点後の4番目の数字が切り捨てられるならば,人間によって容易に認識できる摂動が敵対的サンプルに現れて,攻撃能力は減少する。新しい攻撃法によって,著者らは出力確率が小数点位置後2番目で切り捨てられても,敵対的サンプルが十分に小さな劣化で生成できることを見つけた。これは,単純なブラックボックス攻撃に対する出力確率量子化対策が有効でないことを示す。(翻訳著者抄録)

シソーラス用語： 信号量子化 ,  *ニューラルネットワーク ,  *コンピュータ ,  ブラックボックス ,  摂動 ,  劣化 ,  *性質 ,  *安全対策 ,  サイバー攻撃
準シソーラス用語： *ディープニューラルネットワーク ,  画像劣化 ,  *脆弱性 ,  *分類機

分類 (2件)： データ保護  (JD01020V) ,  ニューロコンピュータ  (JC06010Q)

引用文献 (5件)：

• [1] C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow and R. Fergus: Intriguing properties of neural networks, arXiv:1312.6199, 2013.
• [2] N. Narodytska and S. P. Kasiviswanathan: Simple black-box adversarial perturbations for deep networks, arXiv:1612.06299, 2016.
• [3] Y. Senzaki, S. Ohata and K. Matsuura: Black-box attack for deep neural networks with efficient generation of adversarial examples, Symposium on Cryptography and Information Security, 2018.
• [4] A. N. Bhagoji, W. He, B. Li and D. Song: Practica black-box attacks on deep neural networks using efficient query mechanisms, European Conference on Computer Vision, 2018.
• [5] L. Yann and C. Corinna: The MNIST database of handwritten digits, http://yann.lecun.com/exdb/mnist/.

タイトルに関連する用語 (7件)： 量子化 ,  確率 ,  ディープニューラルネットワーク ,  分類器 ,  ブラックボックス ,  敵対 ,  攻撃