文献

J-GLOBAL ID：202202233028105316   整理番号：22A0710318

敵対的ノイズに対する画像処理操作の効果,およびその,敵対的画像の検出および補正における利用

Effects of Image Processing Operations on Adversarial Noise and Their Use in Detecting and Correcting Adversarial Images

著者 (7件)： NGUYEN Huy H. (The Graduate University for Advanced Studies) ,  KURIBAYASHI Minoru (Graduate School of Natural Science and Technology, Okayama University) ,  YAMAGISHI Junichi (The Graduate University for Advanced Studies) ,  YAMAGISHI Junichi (National Institute of Informatics) ,  ECHIZEN Isao (The Graduate University for Advanced Studies) ,  ECHIZEN Isao (National Institute of Informatics) ,  ECHIZEN Isao (University of Tokyo)
資料名： IEICE Transactions on Information and Systems (Web)  (IEICE Transactions on Information and Systems (Web))
巻： E105.D  号： 1  ページ： 65-77(J-STAGE)  発行年： 2022年 
JST資料番号： U0469A  ISSN： 1745-1361  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： 深層ニューラルネットワーク(DNN)は多くのタスクで優れた性能を達成し,学術および産業の両方で広く応用されている。しかしながら,DNNは,ノイズが入力に付加され,ネットワーク出力を変化させる敵対的機械学習攻撃に対して脆弱である。その結果,自動運転車両で使用されるようなDNNベースのミッションクリティカルアプリケーションは,信頼性が低減し,激しい事故や損傷を引き起こす可能性がある。さらに,敵対例を用いてDNN訓練データを被毒し,訓練されたモデルの障害をもたらす可能性がある。敵対例を検出する必要性に加えて,それらを補正することは,データおよびシステムの機能性を正常に復元するために重要である。複数のパラメータ値を有する複数の画像処理操作を使用した,敵対的画像を検出・補正するための手法を開発した。検出のために,特徴スクイージング法よりも性能が優れている統計的手法を考案した。補正のために,2つのレベルの補正を使用する手法を初めて考案した。第1レベルはラベル補正であり,敵対的画像の元の予測ラベル(現在のタスクで使用する)を復元することに着目した。第2レベルは画像補正であり,補正画像の正しさと品質(現在および他のタスクで使用する)の両方に着目した。著者らの実験は,本補正法が,古典的敵対攻撃によって作り出される敵対画像のほぼ90%を補正でき,正常画像の約2%だけに影響を及ぼすことを示した。(翻訳著者抄録)

シソーラス用語： *機械学習 ,  ニューラルネットワーク ,  画像処理 ,  *画像補正 ,  正規化
準シソーラス用語： データクレンジング ,  画像検出 ,  深層ニューラルネットワーク ,  *敵対的機械学習

著者キーワード (6件)： 敵対的機械学習 ,  画像処理操作 ,  敵対画像の検出 ,  敵対的画像の修正 ,  データ洗浄 ,  深層ニューラルネットワーク

分類 (1件)： 図形・画像処理一般  (JE04010I)

引用文献 (44件)：

• [1] C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus, “Intriguing properties of neural networks,” arXiv preprint arXiv:1312.6199, 2013.
• [2] A. Kurakin, I. Goodfellow, and S. Bengio, “Adversarial examples in the physical world,” ILCR-W, 2017.
• [3] K. Eykholt, I. Evtimov, E. Fernandes, B. Li, A. Rahmati, F. Tramer, A. Prakash, T. Kohno, and D. Song, “Physical adversarial examples for object detectors,” WOOT, 2018.
• [4] C. Sitawarin, A.N. Bhagoji, A. Mosenia, M. Chiang, and P. Mittal, “Darts: Deceiving autonomous cars with toxic signs,” arXiv preprint arXiv:1802.06430, 2018.
• [5] A. Boloor, X. He, C. Gill, Y. Vorobeychik, and X. Zhang, “Simple physical adversarial examples against end-to-end autonomous driving models,” arXiv preprint arXiv:1903.05157, 2019.

タイトルに関連する用語 (3件)： 敵対 ,  ノイズ ,  画像処理