XAIのためのインスタンス中心の反事実的アルゴリズムのベンチマーキング:ホワイトボックスからブラックボックスへ【JST機械翻訳】

Moreira Catarina; Chou Yu-Liang; Hsieh Chihcheng; Ouyang Chun; Jorge Joaquim; Pereira Joao Madeiras

プレプリント

J-GLOBAL ID：202202213992085353 整理番号：22P0299049

XAIのためのインスタンス中心の反事実的アルゴリズムのベンチマーキング:ホワイトボックスからブラックボックスへ【JST機械翻訳】

Benchmarking Instance-Centric Counterfactual Algorithms for XAI: From White Box to Black Box

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年03月04日プレプリントサーバーでの情報更新日： 2024年06月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本研究では,3つの異なる型のモデル:ディシジョンツリー(完全透過,解釈可能,ホワイトボックスモデル),ランダムフォレスト(半解釈可能,グレイボックスモデル),ニューラルネットワーク(完全不透明,ブラックボックスモデル)上でのベンチマーク評価を行うことにより,反事実的説明の生成に関する機械学習モデルのインパクトについて調べた。25の異なるデータセットの文献において,4つのアルゴリズム(DiCE,WatcherCF,プロトタイプ,GrowingSphersCF)を用いて反事実的生成プロセスをテストした。著者らの知見は以下を示す。(1)異なる機械学習モデルは,反事実的説明の生成にほとんど影響を及ぼさない。(2)近接損失関数に一意的に基づく反事実的アルゴリズムは,実行不可能であり,意味のある説明を提供しない。(3)反事実的生成においてもっともらしさを保証することなく,意味のある評価結果を持つことができない。それらの内部機構におけるもっともらしさを考慮しないアルゴリズムは,現在の最先端の計量で評価すれば,バイアスのある信頼できない結論を導く。(4)反事実的説明のロバスト検査とバイアスの潜在的同定を確実にするために,反事実的検査分析が強く推奨される。【JST機械翻訳】

, , , , , , , , , , ,
, , 【Automatic Indexing@JST】

システム同定

, , ,

前のページに戻る