文献

J-GLOBAL ID：201802289502738676   整理番号：18A0200065

ニューラルネットワーク推論における動的計算スケーリングのための不完全ドット生成物【Powered by NICT】

Incomplete Dot Products for Dynamic Computation Scaling in Neural Network Inference

著者 (3件)： McDanel Brad ,  Teerapittayanon Surat ,  Kung HT
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2017  号： ICMLA  ページ： 186-193  発行年： 2017年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： フィードフォワード推論中の畳込みニューラルネットワークの各層に使用される入力チャネルの数を動的に調整する不完全なドット積(IDP)の使用を提案した。IDPは,「プロファイル」と呼ばれる,訓練中にチャネルへと単調に増加係数追記した。プロファイルは各チャネル非増加次数の寄与を秩序化する。推論時間では,使用されるチャンネル数がチャネルの始まりに過ぎないのサブセットを選択することにより,低消費電力と待ち時間低減のための精度をトレードオフに動的に調整することができた。このアプローチは,計算範囲でスケール動的に単一のネットワークを可能にし,異なるレベル計算スケーリングのを支援するための訓練と展開複数のネットワークとは対照的に,著者らはマルチプロフィルに概念,計算スケーリングのいくつかの特定の範囲のためにそれぞれ最適化を拡張した。は一般的な画像分類モデルとデータセットのためのIDPの計算と精度トレードオフに関する実験を提示した。MNISTとCIFAR10に対して,IDPは計算を大幅に低減し,例えば,75%,精度を損なうことなくことを示した。IDPはシステムの電流計算予算を反映するために動的に低い計算コストにデバイスのための簡便で効果的な手段を提供することを主張した。例えば,50%VGG16IDP(チャンネルの最初の50%のみを用いて)は減少したチャネルを用いた場合には35%の精度を達成し標準ネットワークと比較してCIFAR10データセットの精度70%を達成した。Copyright 2018 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： チャネル ,  *ニューラルネットワーク ,  *ネットワーク ,  待ち時間 ,  部分集合 ,  最適化 ,  フィードフォワード ,  電流
準シソーラス用語： 計算コスト ,  画像分類 ,  低電力化 ,  次数 ,  畳込みニューラルネットワーク , 【Automatic Indexing@JST】

分類 (2件)： 人工知能  (JE08000Z) ,  パターン認識  (JE07000S)

タイトルに関連する用語 (6件)： ニューラルネットワーク ,  推論 ,  計算 ,  スケーリング ,  ドット ,  生成物