文献

J-GLOBAL ID：202202230765383599   整理番号：22A1795958

敵対的ノイズとJPEG圧縮由来の歪みの相関を用いた敵対的事例検出の研究

A study of adversarial example detection using the correlation between adversarial noise and JPEG compression-derived distortion

著者 (5件)： 角森健太 (岡山大 大学院自然科学研究科) ,  山崎裕真 (岡山大 大学院自然科学研究科) ,  栗林稔 (岡山大 大学院自然科学研究科) ,  舩曵信生 (岡山大 大学院自然科学研究科) ,  越前功 (国立情報学研)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 122  号： 25(IT2022 1-14)  ページ： 29-34 (WEB ONLY)  発行年： 2022年05月10日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 微小な摂動が加えられた敵対的事例は,畳み込みニューラルネットワークを用いた画像分類器を誤分類させる.東らは異なる強度のノイズ除去フィルタを入力画像に適用し,画像分類器の出力変化を観察して敵対的事例を事前に検知する手法を提案した.この手法ではフィルタを14種類用いており,計算量が増えていた.本稿では,少ないフィルタ数で高い検出精度を示す手法を提案する.東らの報告から,JPEG圧縮は敵対的事例のノイズ除去に適したフィルタであると考えられる.提案手法では,JPEG圧縮前後の画像の差分値に処理を施した歪み信号をノイズ除去フィルタに用いる.本研究の結果,提案手法は少ないフィルタ数で90%以上の敵対的事例検出精度を示した.(著者抄録)

シソーラス用語： 分類 ,  *ニューラルネットワーク ,  摂動 ,  *フィルタ ,  検出 ,  *JPEG ,  スケーリング【計数】 ,  雑音低減 ,  画像補正 ,  実験 ,  畳込みニューラルネットワーク ,  評価実験
準シソーラス用語： 画像分類 ,  データ摂動 ,  敵対的事例 ,  画像検出 ,  JPEG圧縮 ,  ノイズ除去 ,  画像ノイズ除去

分類 (2件)： 図形・画像処理一般  (JE04010I) ,  人工知能  (JE08000Z)

引用文献 (12件)：

• 東 亮憲, 栗林 稔, 舩曵信生, Huy Hong Nguyen, 越前 功, “複数のフィルタ強度によるCNN画像分類器の応答特性を用いた敵対的事例の検出法, ” 信学技報, vol.120, no.418, EMM2020-70, pp.19-24, 2021.
• I.J. Goodfellow, J. Shlens, C. Szegedy, “Explaining and harnessing adversarial examples,” Proc. ICLR2015, Mar. 2015.
• S.M. M.Dezfooli, A. Fawzi, P. Frossard, “Deepfool: a simple and accurate method to fool deep neural networks,” arXiv:1511.04599, Jul. 2016.
• N. Carlini, D. Wagner, “Towards evaluating the robustness of neural networks,” Proc. IEEE Symposium Security and Privacy, pp.39-57, Mar. 2017.
• C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, R. Fergus, “Intriguing properties of neural networks,” arXiv:1312.6199, Feb. 2014.

タイトルに関連する用語 (6件)： 敵対 ,  ノイズ ,  JPEG圧縮 ,  歪み ,  相関 ,  研究