MeのMCMC:エネルギーベースモデルの高速かつ安定な訓練のための修正サンプリング【JST・京大機械翻訳】

Grathwohl Will; Kelly Jacob; Hashemi Milad; Norouzi Mohammad; Swersky Kevin; Duvenaud David

プレプリント

J-GLOBAL ID：202202204395042555 整理番号：21P0053268

MeのMCMC:エネルギーベースモデルの高速かつ安定な訓練のための修正サンプリング【JST・京大機械翻訳】

No MCMC for me: Amortized sampling for fast and stable training of energy-based models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2020年10月08日プレプリントサーバーでの情報更新日： 2021年06月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

エネルギーベースモデル(EBM)は,不確実性を表現するための柔軟で魅力的な方法である。最新の進歩にもかかわらず,高次元データに関するEBM訓練は,最先端のアプローチが費用がかかり,不安定であり,かなりの調整とドメイン専門知識を必要とするので,困難な問題である。本研究では,EBM訓練で典型的に使用されるMCMCサンプリングを不死化するために,エントロピー正則化発電機を用いるスケールにおけるEBM訓練のための簡単な方法を提案した。高速変分近似による事前MCMCベースエントロピー正則化法を改善した。訓練可能な尤度モデルを訓練するために,本手法の有効性を実証した。次に,著者らの推定器を最近提案された結合エネルギーモデル(JEM)に適用し,ここでは,元の性能をより速く安定した訓練と整合させた。これにより,JEMモデルを様々な連続ドメインから表データで半教師つき分類に拡張できる。【JST・京大機械翻訳】

, , , ,
, , , , , 【Automatic Indexing@JST】

確率論 , 数値計算

, ,

前のページに戻る