フィルタ枝刈りと知識移転によるエッジデバイス上の深層学習の実現【JST・京大機械翻訳】

Zhao Kaiqi; Chen Yitao; Zhao Ming

プレプリント

J-GLOBAL ID：202202221340670770 整理番号：22P0280107

フィルタ枝刈りと知識移転によるエッジデバイス上の深層学習の実現【JST・京大機械翻訳】

Enabling Deep Learning on Edge Devices through Filter Pruning and Knowledge Transfer

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月21日プレプリントサーバーでの情報更新日： 2022年01月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深層学習モデルは,画像分類,音声認識,および拡張現実のようなエッジデバイスに様々な知的アプリケーションを導入した。個別化,応答,および私的学習を配信するために,デバイスに関するそのようなモデルの訓練の必要性が増加している。この必要性に取り組むために,本論文では,資源制約付きデバイスに関する最先端モデルを展開し訓練するための新しい解決策を提示した。最初に,本論文では,精度の大きな損失なしに,クラウドで訓練された大規模モデルから軽量訓練可能なモデルを作成するための,新しいフィルタ-プルーニングベースのモデル圧縮法を提案した。第2に,新しいデータに関するインクリメンタル学習を用いて実時間または実時間でインクリメンタルに更新するためのオンデバイスモデルを可能にする新しい知識転送法を提案し,教師なし方式でクラウド内モデルの助けで,非セーンカテゴリを学習するためのオンデバイスモデルを可能にした。結果は,1)著者らのモデル圧縮法がWRN-28-10の99.36%パラメータまで除去でき,一方,CIFAR-10上で90%以上のTop-1精度を維持することを示した。2)著者らの知識移転方法は,CIFAR-10に関して90%以上の精度を達成する圧縮モデルを可能にして,古いカテゴリーに関して良い精度を保持した。3)圧縮モデルは,増分学習タスクのエッジで実時間(3から6分)以内に収束する。4)それは,モデルが訓練されないデータ(78.92%Top-1精度)の分類を分類できる。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , , 【Automatic Indexing@JST】

人工知能 , パターン認識

, , ,

前のページに戻る