階層的強化学習のための固有動機付けとしての特徴制御【JST・京大機械翻訳】

Dilokthanakul Nat; Kaplanis Christos; Pawlowski Nick; Shanahan Murray

プレプリント

J-GLOBAL ID：202202220433219737 整理番号：22P0040810

階層的強化学習のための固有動機付けとしての特徴制御【JST・京大機械翻訳】

Feature Control as Intrinsic Motivation for Hierarchical Reinforcement Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2017年05月18日プレプリントサーバーでの情報更新日： 2017年11月22日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

スパース報酬の問題は,現代の強化学習における最も困難な課題の1つである。階層的強化学習(HRL)は,時間的に拡張された行動のセット,あるいはその各々がそれ自身のサブゴナルを持つオプションを用いることにより,この問題に取り組む。これらのサブゴールは,通常,特定のタスクのために手作業される。ここでは,視覚ドメインに広い応用性を持つ一般的クラスのサブゴナルを導入した。著者らのアプローチ(「補助タスクを用いた研究」)の下では,環境の側面を制御する能力が本質的に有用なスキルであるという仮説である。エンドツーエンド階層強化学習システムにそのようなサブゴナルを組み込み,Atariスイートから多数のゲーム上で提案アルゴリズムの2つの変異体を試験した。著者らは,最も硬いゲームの1つ,すなわち,スパース報酬を扱う能力が鍵である,の1つにおける著者らのアプローチの利点を強調する。このエージェントは,このゲームにおいて現在の最先端のHRLエージェントよりも数倍速く学習し,類似のレベルの性能に達する。UPDATE 22/11/17:著者らは,単純な形状報酬,すなわち外因性報酬+特徴制御固有報酬を有する標準A3Cエージェントが,Montezuma Revengeにおける著者らのエージェントに匹敵する性能を有することを見出した。実施した新しい実験に照らして,著者らのHRL手法の利点は,階層的成分による抽象化スキルの探索および再利用能力よりもむしろ,固有報酬から有用な特徴を学習する能力により,より起因できる。これは,結果に関する新しい結論を導いた。【JST・京大機械翻訳】

, , , , , , , , , ,
, 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る