文献

J-GLOBAL ID：202002235382359787   整理番号：20A2610515

深層学習における不適切なコンセプトによる説明の抑制

Suppressing explanations with irrelevant concepts in deep learning

著者 (7件)： 宗政友洋 (筑波大 大学院) ,  福地一斗 (筑波大 大学院) ,  福地一斗 (理研 革新知能統合研究セ) ,  秋本洋平 (筑波大 大学院) ,  秋本洋平 (理研 革新知能統合研究セ) ,  佐久間淳 (筑波大 大学院) ,  佐久間淳 (理研 革新知能統合研究セ)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 120  号： 195(IBISML2020 8-33)  ページ： 61-68 (WEB ONLY)  発行年： 2020年10月13日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 人間が直感的に理解できる概念(concept)を用いた説明法であるTCAVは,conceptに基づくpost-hocな手法である.TCAVは,識別対象クラスについて,人間が予め与えたconcept(e.g.丸い,赤い)の重要度に基づく説明法である.本研究では,TCAVは識別対象クラスに無関係なconceptを重要であると示すfalse positiveが頻繁に発生することを実験的に確認した.さらに,TCAVのfalse positiveが起こる原因は,コンセプトの生成に用いるサンプルの偏りにあることを明らかにして,その原因を解消することでfalse positiveを抑制できることを実験的に確認した.(著者抄録)

シソーラス用語： 概念 ,  報告 ,  *機械学習 ,  検出 ,  情報 ,  標本抽出 ,  予測モデル ,  評価 ,  *認識
準シソーラス用語： 説明 ,  コンセプト ,  偽陽性 ,  特徴量 ,  サンプリング【統計】 ,  XAI【説明可能なAI】 ,  深層学習 ,  実験評価 ,  識別

分類 (1件)： 人工知能  (JE08000Z)

引用文献 (12件)：

• Been Kim, Martin Wattenberg, Justin Gilmer, Carrie Jun Cai, James Wexler, Fernanda Viegas, and Rory Abbott Sayres. Interpretability beyond feature attribution: Quantitative testing with concept activation vectors (tcav). In Proceedings of the 35th International Conference on Machine Learning, pp. 2668-2677, 2018.
• Marco Tulio Ribeiro, Sameer Singh, and Carlos Guestrin.“why should i trust you?” explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining, pp. 1135-1144, 2016.
• Pang Wei Koh and Percy Liang. Understanding black-box predictions via influence functions. In Proceedings of the 34th International Conference on Machine Learning, pp. 1885-1894, 2017.
• Karen Simonyan, Andrea Vedaldi, and Andrew Zisserman. Deep inside convolutional networks: Visualising image classification models and saliency maps. In arXiv preprint arXiv:1312.6034.
• Ramprasaath R. Selvaraju, Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh, and Dhruv Batra. Grad-cam: Visual explanations from deep networks via gradient-based localization. In Proceedings of the IEEE International Conference on Computer Vision (ICCV), pp. 618-626, 2017.

タイトルに関連する用語 (3件)： 深層学習 ,  コンセプト ,  説明