RLFlow:世界モデルによるニューラルネットワーク部分グラフ変換の最適化【JST・京大機械翻訳】

Parker Sean; Alabed Sami; Yoneki Eiko

プレプリント

J-GLOBAL ID：202202202439200339 整理番号：22P0342624

RLFlow:世界モデルによるニューラルネットワーク部分グラフ変換の最適化【JST・京大機械翻訳】

RLFlow: Optimising Neural Network Subgraph Transformation with World Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年05月03日プレプリントサーバーでの情報更新日： 2022年05月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

訓練深層学習モデルは,非常に長い実行時間をとり,大量のコンピューティング資源を消費する。同時に,最近の研究は,深い学習モデル実行時間を減少させると予想される,システムおよびコンパイラを提案した。データ処理における効果的最適化方法論が望ましい,そして,深い学習モデルの計算要求の削減は,大規模な研究の焦点である。本論文では,性能改善を達成するために,強化学習(RL)エージェントを探索することにより,ニューラルネットワークサブグラフ変換に取り組んだ。提案したアプローチRLFlowは,高いレベルの性能を達成するために,エキスパート的に設計した発見的方法を必要とせずに,ニューラルネットワーク部分グラフ変換を実行することができる。最近の研究は,特にモデルフリーのRL技術を用いて,いくつかの成功を有するコンピュータシステムへのRLの適用を目指している。モデルベース強化学習法は,環境の遷移ダイナミクスを学習するために使用できるので,研究の焦点が増加している。これは,世界モデル(WM)のような幻覚的環境を用いてエージェントを訓練するために活用でき,従ってモデルフリー手法と比較してサンプル効率を増加させる。WMは変分自動エンコーダを使用して,システムのモデルを構築して,安価な方法でモデルを探究することができる。RLFlowにおいて,著者らは,モデル実行時間を減らすために,サブグラフ変換のシーケンスを実行することによって,ニューラルネットワークのアーキテクチャを最適化するために学習するWMを有するモデルベースのエージェントのための設計を提案した。著者らは,著者らのアプローチが,一般的畳込みネットワークに関する最先端の性能に整合し,変圧器スタイルアーキテクチャに基づく最大5%の性能を上回ることを示した。【JST・京大機械翻訳】

, , , , , , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る