文献

J-GLOBAL ID：202002213686165845   整理番号：20A2282431

もっともらしい反事実:現実的な敵対例による深層学習分類器の監査【JST・京大機械翻訳】

Plausible Counterfactuals: Auditing Deep Learning Classifiers with Realistic Adversarial Examples

著者 (2件)： Barredo-Arrieta Alejandro (Basque Research and Technology Alliance (BRTA),TECNALIA,Derio,Bizkaia,Spain,48160) ,  Del Ser Javier (Basque Research and Technology Alliance (BRTA),TECNALIA,Derio,Bizkaia,Spain,48160)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2020  号： IJCNN  ページ： 1-7  発行年： 2020年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 過去10年間は,多くの応用における深層学習モデルの増殖を目撃し,予測性能の未誘導レベルを達成した。残念なことに,深い学習モデルのブラックボックス特性は,それらがデータから学ぶことについて,未解決の疑問を提起した。ある応用シナリオは,深い学習モデルが動作している限界を評価する重要性を強調し,異なるドメインからの聴取を狙った,支援されたアプローチを用いて取り組んだ問題である。しかし,アプリケーションの焦点は,非専門家のユーザに多く置かれるので,人間がシステムやプロセスに精通するようなモデル,すなわち,それが失敗する仮想的な状況を理解することによって,このモデルを信頼するのに,him/herの手段を提供することが必須である。これは,本研究作業のための角石であり,深い学習モデルの敵対的解析を行う。提案したフレームワークは,それらの可能性を確実にすることによって,対物的用例を構築して,例えば,人間がコンピュータプログラムに頼ることなくそれらを作り出すことができる合理的確率があった。したがって,本研究は,利用可能な限界の貴重な監査運動として,あるモデルが制約され,それによって,実際の応用で使用されるモデルの能力と落とし穴のより大きな理解を可能にする。この目的のために,Generative Adversarial Network(GAN)と多目的ヒューリスティックスを用いて,監査されたモデルに対する妥当な攻撃,このモデルの混乱,生成されたカウンターファクトの強度と可能性の間の効率的取引を,効率的に提供する。その有用性を,人間の顔分類タスク内で示し,提案フレームワークの巨大な可能性を明らかにした。Copyright 2020 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 計算機プログラム ,  学習モデル ,  ブラックボックス ,  *発見的方法 ,  応用プログラム
準シソーラス用語： *深層学習 , 【Automatic Indexing@JST】

分類 (1件)： 図形・画像処理一般  (JE04010I)

タイトルに関連する用語 (5件)： 現実 ,  敵対 ,  深層学習 ,  分類器 ,  監査