TrojanZoo:ニューラルバックドアの統一的,全体的,実用的評価に向けて【JST・京大機械翻訳】

Pang Ren; Zhang Zheng; Gao Xiangshan; Xi Zhaohan; Ji Shouling; Cheng Peng; Luo Xiapu; Wang Ting

プレプリント

J-GLOBAL ID：202202205607690389 整理番号：22P0218692

TrojanZoo:ニューラルバックドアの統一的,全体的,実用的評価に向けて【JST・京大機械翻訳】

TrojanZoo: Towards Unified, Holistic, and Practical Evaluation of Neural Backdoors

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (8件)： , , , , , , ,
資料名：
発行年： 2020年12月16日プレプリントサーバーでの情報更新日： 2022年10月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

ニューラルバックドアは,深層学習システムのセキュリティに対する一つの主要な脅威である。集中的な研究は,バックドア攻撃/デフェンスを過剰に作り出して,一定のアームレースをもたらした。しかし,評価ベンチマークの欠如のため,多くの重大な疑問が未開発のままである。(i)異なる攻撃/デフェンスの強度と限界である。(ii)これらを操作する最良の実践である,そして(iii)既存の攻撃/デフェンスが,このギャップを埋めるのに,どのように改善できるか,著者らは,TROJANZOOを設計,実装し,統一的,全体的,および実用的方法で,神経バックドア攻撃/デフェンスを評価する最初のオープンソースプラットフォームである。これまでに,コンピュータビジョン領域に焦点を合わせて,攻撃-防御相互作用の徹底的な分析の豊富なツールと同様に,それは8つの代表的攻撃,14の最先端の防衛,6つの攻撃性能計量,10の防衛ユーティリティメトリックスを取り入れた。TROJANZOOを分割して,既存の攻撃/デフェンスに関する系統的研究を実施し,それらの複雑な設計スペクトルを明らかにした:複数のデサイドタ(例えば,攻撃の実効性,回避性,および伝達性)の間の複雑なトレードオフを明らかにした。さらに,既存の攻撃/デフェンスを改善し,多くの興味深い知見を導いた。(i)1ピクセルは,しばしばサフスを誘引する。(ii)引っ掻きからの訓練は,しばしば,工芸のトロジャンモデルに対して,摂動する良性モデルを凌駕する。(iii)トリガとトロジャンモデルの最適化は,攻撃有効性と回避性の両方を大きく改善する。(iv)個々の防御は適応攻撃によって回避されることが多い。(v)モデル解釈可能性の利用は,防御ロバスト性を著しく改善する。著者らは,TROJANZOOが神経背室に関する将来の研究を容易にするための貴重なプラットフォームとして役立つことを想像する。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

データ保護

前のページに戻る