多重重要度サンプリングELBOと変分近似の深いアンサンブル【JST・京大機械翻訳】

Kviman Oskar; Melin Harald; Koptagel Hazal; Elvira Victor; Lagergren Jens

プレプリント

J-GLOBAL ID：202202214318267582 整理番号：22P0293563

多重重要度サンプリングELBOと変分近似の深いアンサンブル【JST・京大機械翻訳】

Multiple Importance Sampling ELBO and Deep Ensembles of Variational Approximations

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年02月22日プレプリントサーバーでの情報更新日： 2022年02月22日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

変分推論(VI)において,限界対数尤度を,標準証拠下限(ELBO),または重要度加重ELBO(IWELBO)として改良版を用いて推定した。著者らは,多重重要度サンプリングELBO(MISELBO),aversatileyet単純フレームワークを提案した。MISELBOは,不死化および古典的VIの両方に適用可能であり,アンサンブル,例えば,独立推論変分近似の深い集合を用いる。知る限りでは,不死VIにおける深いアンサンブルの概念は以前には確立されていない。MISELBOは,標準ELBOの平均よりもタイトな境界を提供し,IWELBOの平均よりも厳密な限界を与えることを経験的に実証した。MISELBOは,MNISTといくつかの実データ系統樹推論問題を含む密度推定実験で評価した。第1に,MNISTデータセット上で,MISELBOは最先端のモデルの密度推定性能,すなわちVAEをブーストする。第2に,系統樹推論設定において,著者らのフレームワークは正規化フローを使用する最先端のVIアルゴリズムを強化する。MISELBOの技術的利点のトップにおいて,VIと重要性サンプリング文献における最近の進歩の間の接続を明らかにすることを可能にし,更なる方法論的進歩の道を開いた。このコードをウルル{https://github.com/Lagergren Lab/MISELBO}に提供した。【JST・京大機械翻訳】

, , , ,
, , , 【Automatic Indexing@JST】

バイオアッセイ

, , ,

前のページに戻る