異なるトリガー位置を持つマルチモデル選択的バックドア攻撃

KWON Hyun

文献

J-GLOBAL ID：202202280069877561 整理番号：22A0710328

異なるトリガー位置を持つマルチモデル選択的バックドア攻撃

Multi-Model Selective Backdoor Attack with Different Trigger Positions

出版者サイト複写サービスで全文入手 {{ this.onShowCLink("http://jdream3.com/copy/?sid=JGLOBAL&noSystem=1&documentNoArray=22A0710328&COPY=1") }}
高度な検索・分析はJDreamⅢで {{ this.onShowJLink("http://jdream3.com/lp/jglobal/index.html?docNo=22A0710328&from=J-GLOBAL&jstjournalNo=U0469A") }}

著者 (1件)：
資料名：
巻： E105.D 号： 1 ページ： 170-174(J-STAGE) 発行年： 2022年
JST資料番号： U0469A ISSN： 1745-1361 資料種別：逐次刊行物 (A)
記事区分：短報発行国：日本 (JPN) 言語：英語 (EN)

深層ニューラルネットワークは,画像認識,音声認識,およびパターン解析において良好な性能を示す。しかし,深層ニューラルネットワークは弱点を示し,その一つはバックドア攻撃に対する脆弱性である。バックドア攻撃は,特定のトリガを含むバックドアサンプルに関するターゲットモデルの追加訓練を実行するので,トリガを有さない通常のデータはモデルによって正しく分類されるが,特定のトリガを有するバックドアサンプルはモデルによって誤って分類されてしまう。このようなバックドア攻撃に関する様々な研究が行われてきた。しかし,既存のバックドア攻撃は1つのクラシファイアによる誤分類を引き起こす。ある状況では,複数のモデルを持つ環境において特定のモデルに対する選択的バックドア攻撃を行う必要があるかも知れない。本論文では,トリガの位置に従って異なるクラスにサンプルを誤分類するよう各モデルをミスリードするマルチモデル選択的バックドア攻撃法を提案した。本研究の実験では,データセットとしてMNISTとFashion-MNISTを,機械学習ライブラリとしてTensorFlowを使用した。その結果,提案方式は,各モデルに対して100%の平均攻撃成功率を持つ一方,MNISTおよびFashion-MNISTのオリジナルサンプルに対して,それぞれ97.1%および90.9%の精度を維持した。(翻訳著者抄録)

, , ,

著者キーワード (4件)： , , ,

人工知能

引用文献 (10件)：

[1] J. Schmidhuber, “Deep learning in neural networks: An overview,” Neural networks, vol.61, pp.85-117, 2015. 10.1016/j.neunet.2014.09.003
[2] M. Barreno, B. Nelson, A.D. Joseph, and J. Tygar, “The security of machine learning,” Machine Learning, vol.81, no.2, pp.121-148, 2010. 10.1007/s10994-010-5188-5
[3] J. Su, D.V. Vargas, and K. Sakurai, “One pixel attack for fooling deep neural networks,” IEEE Trans. Evol. Comput., vol.23, no.5, pp.828-841, 2019. 10.1109/tevc.2019.2890858
[4] J. Su, D.V. Vargas, and K. Sakurai, “Attacking convolutional neural network using differential evolution,” IPSJ Transactions on Computer Vision and Applications, vol.11, no.1, pp.1-16, 2019. 10.1186/s41074-019-0053-3
[5] B. Biggio, B. Nelson, and P. Laskov, “Poisoning attacks against support vector machines,” Proc. 29th International Coference on International Conference on Machine Learning, pp.1467-1474, Omnipress, 2012.

, , ,

前のページに戻る