文献

J-GLOBAL ID：201902219236374422   整理番号：19A2441822

深い神経回路網のための1画素攻撃【JST・京大機械翻訳】

One Pixel Attack for Fooling Deep Neural Networks

著者 (3件)： Su Jiawei (Graduate School/Faculty of Information Science and Electrical Engineering, Kyushu University, Fukuoka, Japan) ,  Vargas Danilo Vasconcellos (Graduate School/Faculty of Information Science and Electrical Engineering, Kyushu University, Fukuoka, Japan) ,  Sakurai Kouichi (Graduate School/Faculty of Information Science and Electrical Engineering, Kyushu University, Fukuoka, Japan)
資料名： IEEE Transactions on Evolutionary Computation  (IEEE Transactions on Evolutionary Computation)
巻： 23  号： 5  ページ： 828-841  発行年： 2019年 
JST資料番号： W0968A  ISSN： 1089-778X  CODEN： ITEVF5  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 最近の研究は,深いニューラルネットワーク(DNNs)の出力が,入力ベクトルに比較的小さな摂動を加えることにより,容易に変更できることを明らかにした。本論文では,1画素のみを修正できる極端に制限されたシナリオにおける攻撃を解析した。それに対して,微分進化(DE)に基づく1ピクセルのadvers摂動を生成するための新しい方法を提案した。それは,より少ない敵の情報(ブラックボックス攻撃)を必要とし,DEの固有の特徴により,より多くのタイプのネットワークを作ることができる。結果は,Kagle CIFAR-10テストデータセットにおける自然画像の67.97%と画像ネット(ILSVRC2012)テスト画像の16.04%が,平均で74.03%と22.91%の信頼度で1つの画素を修正することによって少なくとも1つの目標クラスに摂動できることを示した。また,元のCIFAR-10データセット上で同じ脆弱性を示した。このように,提案した攻撃は,極端に制限されたシナリオにおいて,異なる考慮s機械学習を探索し,現在のDNNsがそのような低次元攻撃に対しても脆弱であることを示した。その上,筆者らはまた,ロバスト性を評価するためにニューラルネットワークに対して低コストの敵攻撃を効果的に生成することができるツールを作り出すことにより,逆の機械学習の領域におけるDE(または広く話された進化的計算)の重要な応用を例示した。Copyright 2019 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 機械学習 ,  信頼度 ,  ブラックボックス ,  ネットワーク ,  ロバスト性 ,  ベクトル ,  摂動 ,  画像 ,  ニューラルネットワーク ,  *画素 ,  *神経回路網
準シソーラス用語： 低次元 ,  脆弱性 ,  自然画像 ,  微分進化 , 【Automatic Indexing@JST】

分類 (1件)： パターン認識  (JE07000S)

タイトルに関連する用語 (3件)： 神経回路網 ,  画素 ,  攻撃