文献

J-GLOBAL ID：202002217523604852   整理番号：20A1192850

非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法

Detecting Adversarial Examples Based on Sensitivities to Lossy Compression Algorithms

著者 (5件)： 東亮憲 (岡山大 大学院自然科学研究科) ,  栗林稔 (岡山大 大学院自然科学研究科) ,  舩曵信生 (岡山大 大学院自然科学研究科) ,  NGUYEN Huy Hong (国立情報学研) ,  越前功 (国立情報学研)
資料名： 電子情報通信学会技術研究報告  (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers))
巻： 119  号： 463(EMM2019 102-129)(Web)  ページ： 113-116 (WEB ONLY)  発行年： 2020年02月27日 
JST資料番号： S0532B  ISSN： 0913-5685  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 敵対的事例は,CNN画像分類器が誤って識別するように意図的に造られた小さな摂動を入力に加える攻撃であり,その摂動を人間が視覚的に認識することは困難である.CSS2019では,敵対的事例に加えられた微小なノイズを非可逆圧縮を用いて除去することで識別クラスが変動する性質に着目し,圧縮品質を徐々に下げた場合のCNN画像分類器の出力の変化を特徴として敵対的事例を検知する手法を提案した.本研究では,計算量削減のために圧縮品質を変化させる間隔を大きくした際に,敵対的事例の分類精度がどのように影響するかを調べた.その結果,数パターンの圧縮品質での出力だけでも高い精度で敵対的事例を分類できることが分かった.また,画像の縮小の際に情報が削減される処理をノイズ除去フィルタとして用いた場合も同様に高い精度で分類できることが確認された.(著者抄録)

シソーラス用語： 画像認識 ,  ニューラルネットワーク ,  *分類 ,  画像 ,  マルウェア ,  人工知能 ,  行為 ,  *対策 ,  情報セキュリティ ,  データ圧縮 ,  サイバー攻撃
準シソーラス用語： *画像分類 ,  攻撃【情報】 ,  *情報セキュリティ対策 ,  畳込みニューラルネットワーク ,  敵対的生成ネットワーク ,  非可逆圧縮

分類 (2件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z)

引用文献 (11件)：

• K. Simonyan and A. Zisserman, “Very deep convolutional networks for large-scale image recognition,” Proc. ICLR2015, 2015.
• G. Huang, K.Q. Weinberger, and L. Maaten, “Densely connected convolutional networks,” Proc. CVPR2017, 2017.
• C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I.J. Goodfellow, and R. Fergus, “Intriguing properties of neural networks,” Proc. ICLR2014, 2014.
• N. Papernot, P. McDaniel, I.J. Goodfellow, S. Jha, Z.B. Celik, and A. Swami, “Practical black-box attacks against machine learning,” Proc. ASIACCS2017, pp.506-519, 2017.
• N. Carlini and D. Wagner, “Towards evaluating the robustness of neural networks,” Proc. IEEE Symposium Security and Privacy, pp.39-57, 2017.

タイトルに関連する用語 (5件)： 非可逆圧縮 ,  圧縮率 ,  挙動解析 ,  敵対 ,  検知法