概念解説:概念展望からの深層ニューラルネットワークのための対話型説明【JST・京大機械翻訳】

Huang Jinbin; Mishra Aditi; Kwon Bum Chul; Bryan Chris

プレプリント

J-GLOBAL ID：202202218276016024 整理番号：22P0325385

概念解説:概念展望からの深層ニューラルネットワークのための対話型説明【JST・京大機械翻訳】

ConceptExplainer: Interactive Explanation for Deep Neural Networks from a Concept Perspective

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月04日プレプリントサーバーでの情報更新日： 2022年10月24日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

モデルユーザに適した従来の深層学習解釈法は,大域的レベルでネットワーク挙動を説明することができず,細粒説明の提供で柔軟である。解決策として,概念ベースの説明は,それらの人間の直感的性とグローバルおよび局所的モデル挙動の両方を記述する柔軟性のために注目を集めている。概念は,ネットワークの潜在的空間内に埋め込まれた概念を表現し,一般的に手作り出されるが,最近,自動化されたアプローチによって発見されている,類似有意義な画素のグループである。残念なことに,発見された概念の大きさと多様性は,概念空間の意味をナビゲートし,意味するのを困難にする。視覚解析は,ユーザに対するモデル挙動の概念に基づく洞察を提供するために,概念空間の構造化ナビゲーションと探索を可能にすることにより,これらのギャップを橋渡しする際に貴重な役割を果たすことができる。この目的のために,著者らは,概念空間をインタラクティブに探索し,事例/クラス/グローバルレベルでモデル挙動を説明するために,概念空間を探索し,探索する視覚解析システムである概念Explainerを設計し,開発し,検証した。このシステムを反復プロトタイピングにより開発し,ユーザが深い学習モデルの行動を解釈する際に直面する多くの設計課題に対処した。厳密なユーザ研究を通して,概念Explatinerがこれらの課題をどのようにサポートするかを検証した。同様に,一連の使用シナリオを,システムがどのように様々なタスクと説明粒状性を通してモデル挙動の対話型解析をサポートするかを実証するために,訓練データにおけるバイアスを同定し,そして,概念が多様で見掛に異なるクラスにわたって共有できる方法を理解するのに,そのシステムがどのようにモデル挙動のインタラクティブ解析をサポートするかを実証するために,一連の利用シナリオを遂行する。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能 , 自然語処理

, , , ,

前のページに戻る