文献

J-GLOBAL ID：202202210382488179   整理番号：22A0881614

敵対的事例の検出器を用いた画像分類システムの防御性能の向上

Enhancing robustness of image classification system with Adversarial Example Detector

著者 (3件)： 長我部恭行 (東京都大) ,  APRILPYONE Maungmaung (東京都大) ,  貴家仁志 (東京都大)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 121  号： 362(EMM2021 84-91)  ページ： 1-6 (WEB ONLY)  発行年： 2022年01月20日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 深層学習による画像分類においては,入力画像に人為的に作成された微小なノイズを乗せて作られた敵対的事例によって,攻撃者に意図的に画像分類の予測結果を操作されてしまう危険性がある.これを防ぐために,既存手法では主に分類器自体を敵対的攻撃に対してロバストに設計する防御手法と分類器自体は変更せずに分類器への入力直前に敵対的事例かどうかの検出を行う検出手法の二つの手法が検討されている.しかし,今までにこれらの二手法を同時に利用する方法は検討されていなかった.そこで本稿では,これら二つの防御手法を組み合わせることによる敵対的事例に対する防御性能の向上について検討する.その結果,二つの方法の欠点を補う画像分類システムが構築できることを示す.(著者抄録)

シソーラス用語： 画像処理システム ,  *パターン分類 ,  機械学習 ,  サイバー攻撃 ,  ロバスト性 ,  *画像認識 ,  性能評価 ,  雑音余裕 ,  教師つき学習 ,  検出器
準シソーラス用語： 深層学習

分類 (1件)： パターン認識  (JE07000S)

引用文献 (9件)：

• Szegedy, C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I., and Fergus, R., “Intriguing properties of neural networks,” in International Conference on Learning Representations (ICLR), 2014.
• Goodfellow, I., Shlens, J., and Szegedy, C., “Explaining and harnessing adversarial examples,” in International Conference on Learning Representations (ICLR), 2015.
• AprilPyone, M. and Kiya, H., “Block-wise image transformation with secret key for adversarially robust defense,” IEEE Trans. on Information Forensics and Security 16, 2709-2723 2021.
• Lee, K., Lee, K., Lee, H., and Shin, J., “A simple unified framework for detecting out-of-distribution samples and adversarial attacks,” in Advances in Neural Information Processing Systems (NIPS), 2018.
• Puyudi, Y., Jianbo, C., Cho-Jui, H., Jane-Ling, W., and Michael, I., J., “Ml-loo: Detecting adversarial examples with feature attribution,” in Association for the Advancement of Artificial Intelligence (AAAI), 2020.

タイトルに関連する用語 (4件)： 敵対 ,  検出器 ,  画像分類 ,  防御