深層ニューラルネットワークにおける敵対パラメータ攻撃【JST・京大機械翻訳】

Yu Lijia; Wang Yihan; Gao Xiao-Shan

プレプリント

J-GLOBAL ID：202202211208133425 整理番号：22P0307152

深層ニューラルネットワークにおける敵対パラメータ攻撃【JST・京大機械翻訳】

Adversarial Parameter Attack on Deep Neural Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月20日プレプリントサーバーでの情報更新日： 2022年03月20日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,DNNのパラメータに対する小さな摂動が,攻撃されたDNNの精度があまり減少しないように,DNNのパラメータに対する小さな摂動がなされるが,そのロバスト性ははるかに低くなるように,DNNs上の新しいパラメータ摂動攻撃を提案した。敵対的パラメータ攻撃は以前のパラメータ摂動攻撃よりも強く,攻撃はユーザにより認識されるのが困難であり,攻撃されたDNNは高い確率で任意の修正サンプル入力に対して誤ったラベルを与える。敵対パラメータの存在を証明した。ある条件を満足するパラメータセットΘを有するDNN F_Θに対して,DNNの深さが十分に大きいならば,F_Θ_aの精度がF_Θのそれに等しいように,Θに対する敵対パラメータセットΘ_aが存在するが,F_Θ_aのロバスト性測度は任意の結合よりも小さいことを示した。有効な訓練アルゴリズムを与えて,敵対パラメータを計算し,そして,数値実験を用いて,このアルゴリズムが高品質敵対パラメータを作り出すために有効であることを示した。【JST・京大機械翻訳】

, , , , , ,
, , , , 【Automatic Indexing@JST】

データ保護 , ニューロコンピュータ

, , ,

前のページに戻る