Grad-CAMによる敵対的説明の一般化【JST・京大機械翻訳】

Chakraborty Tanmay; Trehan Utkarsh; Mallat Khawla; Dugelay Jean-Luc

プレプリント

J-GLOBAL ID：202202215748875795 整理番号：22P0329849

Grad-CAMによる敵対的説明の一般化【JST・京大機械翻訳】

Generalizing Adversarial Explanations with Grad-CAM

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月11日プレプリントサーバーでの情報更新日： 2022年04月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

勾配加重クラス活性化マッピング(Grad-CAM)は,畳込みニューラルネットワーク(CNN)モデルの説明として勾配活性化熱マップを提供する例ベース説明方法である。この方法の欠点は,CNN挙動を一般化するために使用できないことである。本論文では,Grad-CAMを例ベース説明から大域的モデル挙動を説明する方法に拡張する新しい方法を提案した。これは,2つの新しい計量,(i)平均観測不類似性(MOD),および(ii)モデル一般化のための非類似性(VID)の変化を導入することによって達成される。これらのメトリックスは,元の試験セットからのサンプルと敵対試験セットからのサンプルのために,Grad-CAM生成ヒートマップの正規化逆構造類似性指数(NISSIM)メトリックを比較することによって計算した。著者らの実験では,VGG16,ResNet50およびResNet101のような深いモデルに対する敵対攻撃,および高速勾配サイン法(FGSM)を用いたIncepetv3およびXcepet Netのような広いモデルを研究した。次に,VGGFace2データセットを用いた自動顔認識(AFR)使用事例に対する計量MODとVIDを計算した。Grad-CAMヒートマップで強調された領域の一貫したシフトを観測し,敵対的攻撃の下ですべてのモデルにわたって意思決定への参加を反映した。提案方法を用いて,敵対攻撃を理解し,画像解析のためのブラックボックスCNNモデルの挙動を説明した。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

人工知能 , 図形・画像処理一般

, , ,

前のページに戻る