オフライン強化学習のための依存データを持つ確率勾配降下【JST・京大機械翻訳】

Dong Jing; Tong Xin T.

プレプリント

J-GLOBAL ID：202202219576432239 整理番号：22P0285462

オフライン強化学習のための依存データを持つ確率勾配降下【JST・京大機械翻訳】

Stochastic Gradient Descent with Dependent Data for Offline Reinforcement Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年02月06日プレプリントサーバーでの情報更新日： 2022年02月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

強化学習(RL)において,オフライン学習はデータ収集からの学習を切り離し,探索-開発トレードオフを扱うのに有用であり,多くのアプリケーションにおけるデータ再利用を可能にする。本研究では,2つのオフライン学習タスク:政策評価と政策学習を研究した。政策評価のために,確率的最適化問題としてそれを定式化し,時間依存データによる近似確率勾配降下(aSGD)を用いて解くことができることを示す。損失関数が強く凸であり,速度が割引因子γに依存しないとき,SGDはO(1/t)収束を達成することを示した。この結果は,TD(0)のような近似的に契約的反復を行うアルゴリズムを含むように拡張できる。次に,政策評価アルゴリズムを政策反復アルゴリズムと結合して,最適政策を学習した。ε精度を達成するために,アルゴリズムの複雑性はO(ε ̄-2(1-γ) ̄-5)であり,それはQ学習のような古典的オンラインRLアルゴリズムに結合された複雑性と一致する。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る