抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
説明可能なAI(XAI)の目標の一つは,どの入力成分が分類器決定に関連するかを決定することである。これは一般に顕著性属性として知られている。特性関数(協調ゲーム理論から)は,部分入力を評価でき,Shapley値のような理論的「fair」属性法の基礎を形成することができる。標準分類器関数のみを考えると,部分入力がどのように実現されるかは不明である。その代りに,ニューラルネットワークのようなブラックボックス分類器に対するほとんどのXAI法は,一般的にオフマニフォールドを横たわる対抗的入力を考慮する。これは,操作を評価,操作することが困難である。単純な2層ゲームを演ずるために,ニューラルネットワークの形で特性関数を直接訓練するためのセットアップを提案した。訓練中のエージェントから色情報をランダムに隠蔽することにより,これを接続4のゲームに適用した。これは,XAI法を比較するための3つの利点を持つ:それは部分入力を実現する方法についての曖昧さを軽減し,オフマニフォールド評価を不要にし,それらを互いに対抗する方法を比較することを可能にする。【JST・京大機械翻訳】