事後説明は敵対的文脈においてその目的を達成できない【JST・京大機械翻訳】

Bordt Sebastian; Finck Michele; Raidl Eric; von Luxburg Ulrike

プレプリント

J-GLOBAL ID：202202213780825586 整理番号：22P0279455

事後説明は敵対的文脈においてその目的を達成できない【JST・京大機械翻訳】

Post-Hoc Explanations Fail to Achieve their Purpose in Adversarial Contexts

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年01月25日プレプリントサーバーでの情報更新日： 2022年05月10日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

既存のおよび計画された法律は,機械学習アルゴリズムとそれらの機能に関する情報を提供するために様々な義務を規定し,しばしば「説明」と解釈される。多くの研究者は,この目的のための事後説明アルゴリズムの使用を示唆している。本論文では,法的,phil学的および技術的議論を組み合わせて,事後説明アルゴリズムが法則の目的を達成するために不適当であることを示した。実際,説明が要求されているほとんどの状況は敵対的であり,説明プロバイダと受信機は,対立する関心とインセンティブを持ち,従って,プロバイダが自分自身のエンドに対する説明を操作するかもしれないことを意味する。現実的なアプリケーションシナリオにおける事後説明の多義性のために,この基本的コンフリクトは解決できないことを示した。結果として,事後説明アルゴリズムは法的基準に固有の透明性目的を達成するためには不適切である。代わりに,これらが他の機構によりよく達成されるので,”説明可能性”義務の根底にある目的をより明示的に議論する必要がある。特に,ヨーロッパ連合のドラフト人工知能法の現在の交渉の観点から,敵対的文脈における事後説明の可能性と限界に関して,よりオープンで正直な議論の緊急の必要性がある。【JST・京大機械翻訳】

, , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能 , ニューロコンピュータ

, ,

前のページに戻る