文献

J-GLOBAL ID：202102270719644629   整理番号：21A1260978

複数のフィルタ強度によるCNN画像分類器の応答特性を用いた敵対的事例の検出法

Detection of Adversarial Examples in CNN Image Classifiers Using Features Extracted with Multiple Strengths of Filter

著者 (5件)： 東亮憲 (岡山大 大学院自然科学研究科) ,  栗林稔 (岡山大 大学院自然科学研究科) ,  舩曵信生 (岡山大 大学院自然科学研究科) ,  NGUYEN Huy Hong (国立情報学研) ,  越前功 (国立情報学研)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 120  号： 418(EMM2020 67-79)  ページ： 19-24 (WEB ONLY)  発行年： 2021年02月25日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 悪意のあるノイズが混入された画像,音声,動画は,敵対的事例と呼ばれ,意図的に機械学習システムの出力を誤らせることから問題となっている.本稿では,画像分類器の感度を利用して敵対的事例を検出する新しい手法を提案する.提案手法では,入力画像に適用させるノイズ除去フィルタの強さを変化させることで画像分類器の出力を観察し,敵対的事例であるか否かを判定する.フィルタ強度を徐々に大きくするほど,画像のエントロピは減少し,敵対的なノイズも同様に除去すると考えられる.したがって,フィルタの強さを変化させると,画像分類器のsoftmax関数の出力は,敵対的事例の場合には大きく変化するが,正常な画像の場合には安定することが予想される.ノイズ除去操作に対する応答特性を用いて敵対的事例を検出するためのフレームワークを構築し,典型的な敵対的事例生成攻撃に対して実験を行い,その性能を定量的に評価した.(著者抄録)

シソーラス用語： ニューラルネットワーク ,  *画像認識 ,  *パターン分類 ,  空間フィルタ ,  組合せ最適化問題 ,  雑音除去 ,  低域フィルタ ,  特徴抽出 ,  計算機シミュレーション ,  ベクトル
準シソーラス用語： 畳込みニューラルネットワーク ,  特徴ベクトル

分類 (1件)： パターン認識  (JE07000S)

引用文献 (19件)：

• K. Grosse, P. Manoharan, N. Papernot, M. Backes, and P. McDaniel, On the (statistical) detection of adversarial examples, 2017.
• X. Li and F. Li, “Adversarial examples detection in deep networks with convolutional filter statistics,” in Proceedings of the IEEE International Conference on Computer Vision, 2017, pp. 5764-5772.
• Z. Gong, W. Wang, and W. Ku, “Adversarial and clean data are not twins,” ArXiv, vol. abs/1704.04960, 2017.
• J. H. Metzen, T. Genewein, V. Fischer, and B. Bischoff, “On detecting adversarial perturbations,” in Proc. ICLR, 2017.
• W. Xu, D. Evans, and Y. Qi, “Feature squeezing: detecting adversarial examples in deep neural networks,” in Proc. NDSS2018, 2018.

タイトルに関連する用語 (5件)： CNN ,  画像分類 ,  応答特性 ,  敵対 ,  検出法