文献

J-GLOBAL ID：202002257520287793   整理番号：20A0853218

適応モデル選択による埋込みシステム上の深層学習推論の最適化【JST・京大機械翻訳】

Optimizing Deep Learning Inference on Embedded Systems Through Adaptive Model Selection

著者 (4件)： Marco Vicent Sanz (Osaka University, Japan) ,  Taylor Ben (Lancaster University, United Kingdom) ,  Wang Zheng (University of Leeds, United Kingdom) ,  Elkhatib Yehia (Lancaster University, United Kingdom)
資料名： ACM Transactions on Embedded Computing Systems  (ACM Transactions on Embedded Computing Systems)
巻： 19  号： 1  ページ： 1-28  発行年： 2020年 
JST資料番号： W5694A  ISSN： 1539-9087  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 深いニューラルネットワーク(DNNs)は多くの応用領域のための重要な可能な技術になっている。しかしながら,電池駆動,資源制約埋込みシステムに関するオンデバイス推論は,多くのDNNsの禁止的に長い推論時間と資源要件のために,しばしば実行可能でない。クラウドへのオフロード計算は,プライバシーの懸念,高い待ち時間,または接続性の欠如のためにしばしば受け入れられない。圧縮アルゴリズムはしばしば推論時間を減らすことに成功するが,それらは精度の低下のコストになる。本論文では,埋め込まれたデバイス上でのDNNsの効率的な実行を可能にする新しい代替手法を提案した。著者らのアプローチは,望ましい精度と推論時間を考慮することによって与えられた入力に対してDNNを使用することを動的に決定する。それは機械学習を採用して,与えられた入力と最適化制約に対して使用するために事前に訓練されたDNNを迅速に選択するための低コスト予測モデルを開発する。著者らは最初に,予測モデルをオフライン訓練することによってこれを達成し,次に学習モデルを用いて,新しい,見えない入力に対して使用するためのDNNモデルを選択した。この手法を2つの代表的なDNNドメインに適用した:画像分類と機械翻訳。Jetson TX2埋め込み深い学習プラットフォームに関する著者らのアプローチを評価し,畳込みおよび再帰ニューラルネットワークを含む影響力のあるDNNモデルの範囲を考察した。画像分類のために,著者らは,最も能力のある単一DNNモデル上の精度において7.52%の改善を伴う推論時間の1.8x削減を達成した。機械翻訳のために,翻訳の質にほとんど影響を与えない最も能力のある単一モデル上で推論時間の1.34x削減を達成した。Please refer to this article’s citation page on the publisher website for specific rights information. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： ニューラルネットワーク ,  連結性 ,  アルゴリズム ,  *最適化 ,  学習モデル ,  機械学習 ,  機械翻訳 ,  電池 ,  *学習 ,  待ち時間 ,  畳込み ,  プライバシー ,  予測モデル ,  組込みシステム
準シソーラス用語： *深層学習 , 【Automatic Indexing@JST】

著者キーワード (3件)： 深層学習 ,  適応コンピューティング ,  組込みシステム

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (5件)： 適応モデル ,  埋込みシステム ,  深層学習 ,  推論 ,  最適化