抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
モデルユーザに適した従来の深層学習解釈法は,大域的レベルでネットワーク挙動を説明することができず,細粒説明の提供で柔軟である。解決策として,概念ベースの説明は,それらの人間の直感的性とグローバルおよび局所的モデル挙動の両方を記述する柔軟性のために注目を集めている。概念は,ネットワークの潜在的空間内に埋め込まれた概念を表現し,一般的に手作り出されるが,最近,自動化されたアプローチによって発見されている,類似有意義な画素のグループである。残念なことに,発見された概念の大きさと多様性は,概念空間の意味をナビゲートし,意味するのを困難にする。視覚解析は,ユーザに対するモデル挙動の概念に基づく洞察を提供するために,概念空間の構造化ナビゲーションと探索を可能にすることにより,これらのギャップを橋渡しする際に貴重な役割を果たすことができる。この目的のために,著者らは,概念空間をインタラクティブに探索し,事例/クラス/グローバルレベルでモデル挙動を説明するために,概念空間を探索し,探索する視覚解析システムである概念Explainerを設計し,開発し,検証した。このシステムを反復プロトタイピングにより開発し,ユーザが深い学習モデルの行動を解釈する際に直面する多くの設計課題に対処した。厳密なユーザ研究を通して,概念Explatinerがこれらの課題をどのようにサポートするかを検証した。同様に,一連の使用シナリオを,システムがどのように様々なタスクと説明粒状性を通してモデル挙動の対話型解析をサポートするかを実証するために,訓練データにおけるバイアスを同定し,そして,概念が多様で見掛に異なるクラスにわたって共有できる方法を理解するのに,そのシステムがどのようにモデル挙動のインタラクティブ解析をサポートするかを実証するために,一連の利用シナリオを遂行する。【JST・京大機械翻訳】