敵対例に対する深層神経拒絶【JST・京大機械翻訳】

Sotgiu Angelo; Demontis Ambra; Melis Marco; Biggio Battista; Fumera Giorgio; Feng Xiaoyi; Roli Fabio

プレプリント

J-GLOBAL ID：202202212849896514 整理番号：22P0079170

敵対例に対する深層神経拒絶【JST・京大機械翻訳】

Deep Neural Rejection against Adversarial Examples

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2019年10月01日プレプリントサーバーでの情報更新日： 2020年04月17日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

異なるアプリケーションドメインにおける深いニューラルネットワークによって報告された印象的な性能にもかかわらず,それらは,テスト時間で誤分類を引き起こすために注意深く摂動される入力サンプル,即ち,敵対的例に対して,ほとんど脆弱である。本研究では,異なるネットワーク層で異常な特徴表現を示すサンプルを排除するアイデアに基づいて,敵対例を検出するための深い神経拒絶機構を提案した。競合するアプローチに関して,提案手法は訓練時間において敵対例を生成する必要がなく,計算要求が少ない。本方法を適切に評価するために,防御機構に気づき,それを迂回する適応白色ボックス攻撃を定義した。この最悪ケース設定の下で,著者らのアプローチが,出力ネットワーク層によって提供される特徴表現だけを分析することによって,敵対例を検出する以前に提案した方法より優れていることを経験的に示した。【JST・京大機械翻訳】

, , , , ,
, , , , 【Automatic Indexing@JST】

データ保護 , 人工知能

, ,

前のページに戻る