文献

J-GLOBAL ID：202102255836963580   整理番号：21A0667313

プロトタイプ因数分解による深層ニューラルネットワークの解釈【JST・京大機械翻訳】

Interpreting Deep Neural Networks through Prototype Factorization

著者 (5件)： Das Subhajit (Georgia Institute of Technology,Altanta,GA,USA) ,  Xu Panpan (Bosch Research North America,Sunnyvale,CA,USA) ,  Dai Zeng (Bosch Research North America,Sunnyvale,CA,USA) ,  Endert Alex (Georgia Institute of Technology,Altanta,GA,USA) ,  Ren Liu (Bosch Research North America,Sunnyvale,CA,USA)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2020  号： ICDMW  ページ： 448-457  発行年： 2020年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 典型的な深層ニューラルネットワーク(DNN)は複雑なブラックボックスモデルであり,それらの意思決定プロセスは経験した機械学習実務者にとってさえ理解するのが難しい。したがって,それらの使用は,多くの挑戦的なMLタスクに関する最先端の性能にもかかわらず,ミッションクリティカルシナリオで制限される。この作業を通して,ユーザを事後解析プロトコルでDNNを解釈する。原データ(例えば,画像パッチ,形状レット)から抽出した少数の事例である重み付きプロトタイプの収集として,事前訓練DNNにおける任意の選択層で潜在表現を分解できる説明可能な行列因数分解技法であるProtoFacを提案した。因数化重みとプロトタイプを用いて,ニューラルネットワークにおける対応層を置き換えることによって解釈のための代理モデルを構築した。信頼性,解釈可能性,単純性を含むProtoFacの多くの望ましい特性を同定し,それに応じて最適化目的と訓練手順を提案した。この方法はモデル診断であり,様々なアーキテクチャを持つDNNに適用できる。それは,意思決定のためのモデルによって使用された証拠の凝縮集合としてプロトタイプを提供することによって,サンプルごとの特徴ベースの説明を超えた。心電図上の時系列分類と画像分類を含むさまざまなMLタスクに対する事前訓練DNNを解釈するためにProtoFacを適用した。その結果,ProtoFacは,モデルの決定を説明するために意味のあるプロトタイプを抽出でき,一方,モデル操作を真実に反映することを示した。また,アマゾン機械的Turk(MTurk)を通してヒト解釈可能性を評価し,ProtoFacが解釈可能でユーザに優しい説明を生産できることを示した。Copyright 2021 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 凝縮 ,  最適化 ,  意思決定 ,  信頼性 ,  心電図 ,  *ニューラルネットワーク ,  ヒト ,  *因数分解 ,  ブラックボックス ,  計算機アーキテクチャ ,  機械学習 ,  プロトタイプ
準シソーラス用語： 画像分類 ,  行列因数分解 ,  *ディープニューラルネットワーク , 【Automatic Indexing@JST】

分類 (1件)： 図形・画像処理一般  (JE04010I)

タイトルに関連する用語 (3件)： プロトタイプ ,  因数分解 ,  深層ニューラルネットワーク