DNNFユーザ:DNN加速器における層融合のための一般化マッパとしての生成予備訓練変圧器【JST・京大機械翻訳】

Kao Sheng-Chun; Huang Xiaoyu; Krishna Tushar

プレプリント

J-GLOBAL ID：202202220474328885 整理番号：22P0280378

DNNFユーザ:DNN加速器における層融合のための一般化マッパとしての生成予備訓練変圧器【JST・京大機械翻訳】

DNNFuser: Generative Pre-Trained Transformer as a Generalized Mapper for Layer Fusion in DNN Accelerators

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月26日プレプリントサーバーでの情報更新日： 2022年06月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

データフロー/マッピングは,DNN加速器の計算とエネルギー効率を決定する。層内マップ空間に取り組むために,多くのマップを提案した。しかし,層間マップ空間(高層融合マップ空間)のマップはめったに議論されていない。本研究では,この層融合マップ空間に特に注目して,マッパ,DNNFユーザを提案した。既存のSOTA DNNマッピング探査は,探索ベースのマッパーに依存するが,これは,1ショット推論ベースのマッパーを提案するために,著者らの知識の最良に最初の研究である。シーケンスモデリング問題として層融合最適化を学習するために,DNNアーキテクチャとして変換器を利用した。さらに,訓練されたDNNFユーザは,その知識を一般化し,そして,不調な条件のための新しい解決策を推論できる。1つの推論パスの中で,DNNFユーザは,66x-127xがより速く,高度に最適化された探索ベースのマッパーによって見出されるものに互換性のある性能を有する解を推論できる。【JST・京大機械翻訳】

, , , , , , , , , ,
, 【Automatic Indexing@JST】

図形・画像処理一般

, , , , ,

前のページに戻る