深層ニューラルネットワークのための一般化Bayes事後期待蒸留【JST・京大機械翻訳】

Vadera Meet P.; Jalaian Brian; Marlin Benjamin M.

プレプリント

J-GLOBAL ID：202202200169621202 整理番号：22P0148015

深層ニューラルネットワークのための一般化Bayes事後期待蒸留【JST・京大機械翻訳】

Generalized Bayesian Posterior Expectation Distillation for Deep Neural Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年05月16日プレプリントサーバーでの情報更新日： 2020年05月16日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,深層ニューラルネットワーク分類器のBayes事後分布に関する期待を蒸留するための一般的フレームワークを提示し,BayesDark知識フレームワークに関する事前研究を拡張した。提案したフレームワークは,入力「教師」と学生モデルアーキテクチャ,および関心の一般事後期待値である。蒸留法は反復生成モンテカルロサンプルを用いて選択した事後期待値のオンライン圧縮を行う。蒸留ターゲットとして事後予測分布と期待エントロピーに焦点を当てた。不確実性の影響と学生モデルアーキテクチャの選択を含むこのフレームワークのいくつかの側面を調べた。速度保存精度の観点から,学生モデルアーキテクチャ検索の方法を研究し,不確実性ランキングとアウトオブ分布検出を含むエントロピー蒸留のダウンストリームタスクを評価した。【JST・京大機械翻訳】

, , , , , , , ,
, , , 【Automatic Indexing@JST】

信号理論

, , ,

前のページに戻る