文献

J-GLOBAL ID：202102256183993220   整理番号：21A1856653

複数のAuto Encoderに対する応答特性を用いた敵対的事例の検出法

A Study of Detecting Adversarial Examples Using Sensitivities to Multiple Auto Encoders

著者 (5件)： 山崎裕真 (岡山大 大学院自然科学研究科) ,  栗林稔 (岡山大 大学院自然科学研究科) ,  舩曵信生 (岡山大 大学院自然科学研究科) ,  NGUYEN Huy HONG (国立情報学研) ,  越前功 (国立情報学研)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 121  号： 28(IT2021 1-14)  ページ： 60-65 (WEB ONLY)  発行年： 2021年05月13日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 敵対的事例に含まれる微小なノイズを取り除くことで,画像分類の結果が正常な画像ラベルに戻り,ノイズを除去するフィルタの強度を徐々に上げることで画像分類の結果に特徴が生じる.先行研究ではこの点に着目し,強度を変動させた各フィルタによるノイズ除去後の画像分類結果を教師データとして,検知用ニューラルネットワークを学習させることで,敵対的事例を識別している.しかし,ノイズ除去フィルタに周知の技術であるJPEG圧縮とscalingが用いられているため,フィルタへの対策がなされた敵対的事例が生成されれば検知が困難になる恐れがある.本研究ではブラックボックスなフィルタとして,教師無し機械学習モデルであるAuto Encoderを特定のデータセットで学習させることで,セキュリティ面を強化した手法を提案する.学習に使用する画像の枚数を変えることで,特性の異なるAuto Encoderを数種類設計し,各フィルタを単独もしくは組み合わせて使用し,敵対的事例識別の評価を行った.その結果,特性の異なるAuto Encoderを組み合わせることでノイズ除去効果の向上が確認され,約90%強の精度で敵対的事例を識別でき,先行研究より少し低い精度であるがある程度高い識別精度が得られた.(著者抄録)

シソーラス用語： *攻撃行動 ,  機械学習 ,  アルゴリズム ,  画像補正 ,  フィルタ ,  分類 ,  画像通信 ,  *精度
準シソーラス用語： オートエンコーダ ,  画像ノイズ除去 ,  画像分類 ,  教師なし機械学習 ,  敵対行動 ,  *検出精度

分類 (3件)： テレビジョン一般  (ND12031N) ,  データ保護  (JD01020V) ,  人工知能  (JE08000Z)

引用文献 (14件)：

• C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I.J. Goodfellow, and R. Fergus, ′′Intriguing properties of neural networks,′′ Proc. ICLR2014, 2014.
• I.J. Goodfellow, J. Shlens, and C. Szegedy, ′′Explaining and harnessing adversarial examples,′′ Proc. ICLR2015, 2015.
• W. Xu, D. Evans, and Y. Qi, ′′Feature squeezing: detecting adversarial examples in deep neural networks,′′ Proc. NDSS2018, 2018.
• A. Higashi, M. Kuribayashi, N. Funabiki, H. Nguyen, I. Echizen, ′′Detection of adversarial examples based on sensitivities to noise removal filter,′′ Proc. APSIPA ASC 2020, pp.1386-1391, 2020.
• 東 亮憲, 栗林 稔, 舩曵 信生, H. Nguyen, 越前 功, ′′複数のフィルタ強度によるCNN画像分類器の応答特性を用いた敵対的事例の検出法,′′ Proc. EMM2020, 2021.

タイトルに関連する用語 (3件)： 応答特性 ,  敵対 ,  検出法