文献

J-GLOBAL ID：202002242370468129   整理番号：20A2030164

事後説明法へのLIMEおよびSHAP敵対攻撃の Fo【JST・京大機械翻訳】

Fooling LIME and SHAP Adversarial Attacks on Post hoc Explanation Methods

著者 (5件)： Slack Dylan (University of California, Irvine, Irvine, CA, USA) ,  Hilgard Sophie (Harvard University, Cambridge, MA, USA) ,  Jia Emily (Harvard University, Cambridge, MA, USA) ,  Singh Sameer (University of California, Irvine, Irvine, CA, USA) ,  Lakkaraju Himabindu (Harvard University, Cambridge, MA, USA)
資料名： ACM Proceedings  (ACM Proceedings)
号： AIES ’20  ページ： 180-186  発行年： 2020年 
JST資料番号： D0698C  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 機械学習ブラックボックスは,健康管理や犯罪などの分野でますます展開されつつあるので,解釈可能な方法でこれらのブラックボックスを説明するための建築ツールと技術に重点が増している。このような説明は,ドメインエキスパートによって利用され,ブラックボックスの系統的誤差と根底にあるバイアスを診断する。本論文では,LIMEやSHAPのような入力摂動に依存する事後説明技法が信頼できないことを示した。具体的には,任意の望ましい説明を工作するために敵対的エンティティを許すことにより,任意の分類器のバイアスを効果的に隠す新しい足場技術を提案した。この手法は,入力データ分布に関する予測が偏ったままであるような方法で,任意の偏った分類器を足場するために使用できるが,足場分類器の事後説明は目立たない。多重実世界データセット(COMPASを含む)による広範な評価を用いて,このフレームワークにより熟練した極めて偏った(racist)分類器が,LIMEやSHAPのような一般的な説明技術を,基礎となるバイアスを反映しない無害な説明を生成するのに,どのように容易に利用できるかを示した。Please refer to this article’s citation page on the publisher website for specific rights information. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 系統誤差 ,  犯罪 ,  *ブラックボックス ,  多重化 ,  健康管理 ,  バイアス ,  摂動 ,  機械学習
準シソーラス用語： 敵意 ,  エンティティ ,  入力データ , 【Automatic Indexing@JST】

著者キーワード (4件)： 敵対的攻撃 ,  バイアス検出 ,  ブラックボックス説明 ,  モデル解釈可能性

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 説明 ,  敵対 ,  攻撃 ,  FO