文献

J-GLOBAL ID：201902231229724025   整理番号：19A0306595

39%高速変換時間と低帯域幅のためのLARS変数を用いた層スキップ学習【JST・京大機械翻訳】

Layer Skip Learning using LARS variables for 39% Faster Conversion Time and Lower Bandwidth

著者 (8件)： Miyauchi Yuki (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Mori Haruki (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Youkawa Tetsuya (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Yamada Kazuki (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Izumi Shintato (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Yoshimoto Masahiko (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Kawaguchi Hiroshi (Graduate School of System Informatics, Kobe University, Kobe, Japan) ,  Inoue Atsuki (Fujitsu Laboratories Ltd., Computer Systems Laboratory, Kawasaki, Japan)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2018  号： ICECS  ページ： 673-676  発行年： 2018年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 本論文では,深い学習における計算時間と認識精度の間の関係の改善のための方法を提案した。深い学習に関する主要な問題は,より高い認識精度のために大きな計算時間が必要であるということである。この問題のため,ハードウェアにおける深い学習の実装と実際の問題へのその応用は限られている。本研究では,層ごとの適応速度スケーリング(LARS)変数を採用して各層の学習の必要性を評価した。一定の畳込み層の変数が閾値を超えると,その層に対する学習は不要と考えられる。このように,層をスキップした。学習を必要としない層として認識された層では,その層より低い層のみが次の時代に学習される。層を適応的にスキップすることにより,計算時間を短縮した。さらに,認識精度を改善した。結果として,提案した方法は,VGG-Fにおける計算時間を加速し,トップ1およびトップ5のテスト精度に対して,それぞれ,2.14および2.25のスピードアップファクタにより,最高の精度を達成した。さらに,それぞれのトップ1とトップ5のテスト精度は,最終精度として得られた3.0%と2.8%改善された。さらに,従来の全層学習の場合と比較して,操作プロセスは約39.0%減少し,必要な帯域幅は38.9%減少した。Copyright 2019 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 畳込み ,  高速化 ,  *高速度 ,  ハードウェア ,  *学習 ,  *帯域幅
準シソーラス用語： 認識精度 , 【Automatic Indexing@JST】

分類 (1件)： 図形・画像処理一般  (JE04010I)

タイトルに関連する用語 (4件)： 低帯域 ,  変数 ,  層 ,  学習