確率的勾配サンプリングアルゴリズムのためのオラクル下界【JST・京大機械翻訳】

Chatterji Niladri S.; Bartlett Peter L.; Long Philip M.

プレプリント

J-GLOBAL ID：202202218422918329 整理番号：21P0023585

確率的勾配サンプリングアルゴリズムのためのオラクル下界【JST・京大機械翻訳】

Oracle Lower Bounds for Stochastic Gradient Sampling Algorithms

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年02月01日プレプリントサーバーでの情報更新日： 2021年07月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

R ̄dにおける強い対数凹密度からのサンプリングの問題を考察し,必要な対数密度の確率的勾配クエリの数に関する情報理論的下限を証明した。いくつかのポピュラーなサンプリングアルゴリズム(多くのMarkov連鎖モンテカルロ法を含む)は,対数密度の確率的勾配を用いて操作し,サンプルを生成する。これらの結果は,これらすべてのアルゴリズムに対する情報理論的限界を確立する。著者らは,あらゆるアルゴリズムに対して,勾配クエリの数がΩ(σ ̄2d/ε ̄2)未満であるならば,アルゴリズムによって生成された点の分布は,全変動距離における目標から少なくともε離れていて,そこで,σ ̄2dが確率的勾配の分散であるならば,このアルゴリズムによって発生する点の分布は,少なくともε離れていることを示した。著者らの下限は,低境界Bayesリスク関数で使われる標準情報理論的ツールと共に統計的実験の比較で日常的に使われるLe Cam欠損のアイデアを結合することによって,以下の。知る限りでは,この結果はこの問題に対する最初の非自明な次元依存下界を提供する。【JST・京大機械翻訳】

, , , ,
, , , , , 【Automatic Indexing@JST】

数値計算

, , , , ,

前のページに戻る