強化学習による訓練特性関数:XAI法は4つを連結する【JST・京大機械翻訳】

Waeldchen Stephan; Huber Felix; Pokutta Sebastian

プレプリント

J-GLOBAL ID：202202204600550020 整理番号：22P0294409

強化学習による訓練特性関数:XAI法は4つを連結する【JST・京大機械翻訳】

Training Characteristic Functions with Reinforcement Learning: XAI-methods play Connect Four

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月23日プレプリントサーバーでの情報更新日： 2022年02月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

説明可能なAI(XAI)の目標の一つは,どの入力成分が分類器決定に関連するかを決定することである。これは一般に顕著性属性として知られている。特性関数(協調ゲーム理論から)は,部分入力を評価でき,Shapley値のような理論的「fair」属性法の基礎を形成することができる。標準分類器関数のみを考えると,部分入力がどのように実現されるかは不明である。その代りに,ニューラルネットワークのようなブラックボックス分類器に対するほとんどのXAI法は,一般的にオフマニフォールドを横たわる対抗的入力を考慮する。これは,操作を評価,操作することが困難である。単純な2層ゲームを演ずるために,ニューラルネットワークの形で特性関数を直接訓練するためのセットアップを提案した。訓練中のエージェントから色情報をランダムに隠蔽することにより,これを接続4のゲームに適用した。これは,XAI法を比較するための3つの利点を持つ:それは部分入力を実現する方法についての曖昧さを軽減し,オフマニフォールド評価を不要にし,それらを互いに対抗する方法を比較することを可能にする。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能 , パターン認識

, ,

前のページに戻る