文献

J-GLOBAL ID：202202255931694297   整理番号：22A0798886

インターネットのエッジにおけるニューラルネットワークの動的ハード枝刈り【JST・京大機械翻訳】

Dynamic hard pruning of Neural Networks at the edge of the internet

著者 (4件)： Valerio Lorenzo (IIT-CNR, via Moruzzi 1, 56124 Pisa, Italy) ,  Nardini Franco Maria (ISTI-CNR, via Moruzzi 1, 56124 Pisa, Italy) ,  Passarella Andrea (IIT-CNR, via Moruzzi 1, 56124 Pisa, Italy) ,  Perego Raffaele (ISTI-CNR, via Moruzzi 1, 56124 Pisa, Italy)
資料名： Journal of Network and Computer Applications  (Journal of Network and Computer Applications)
巻： 200  ページ： Null  発行年： 2022年 
JST資料番号： H0842A  ISSN： 1084-8045  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： イギリス (GBR)  言語： 英語 (EN)

抄録/ポイント： ニューラルネットワーク(NN)は,いくつかの人工知能タスクにうまく適用されているが,しばしば過度に過剰パラメータ化されている。エッジ/フォッグコンピューティングにおいて,これは,それらの訓練を資源制約付きデバイスに禁止し,遠隔データセンタから局所制約デバイスへの分散知能の現在の傾向と対照的である。したがって,固定され,潜在的に小さいメモリ予算を持つ制約付きデバイスに対する効果的なNNモデルの訓練問題を検討した。重要なネットワーク圧縮を可能にする一方で,資源効率および性能効率の両者である技法を目標とした。著者らの動的ハードプルーニング(DynHP)技法は,訓練中にネットワークを漸増的に剪定し,モデル精度にわずかに寄与するニューロンを同定する。DynHPは,最終ニューラルネットワークの調整可能なサイズ縮小を可能にし,訓練中のNNメモリ占有率を低減する。自由メモリを動的バッチサイジングアプローチによって再利用し,ハード剪定戦略による精度劣化を相殺し,その収束と有効性を改善した。3つの公開データセットに関する再現可能な実験を通してDynHPの性能を評価し,それらを参照競合者と比較した。結果は,DynHPが,有意な性能低下(最大3.5%の付加的誤差w.r.t.競争者)なしで,NNを最大10回圧縮し,訓練記憶占有率を80%まで低減することを示した。Copyright 2022 Elsevier B.V., Amsterdam. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 記憶装置 ,  *ネットワーク ,  ニューロン ,  *ニューラルネットワーク ,  比較 ,  データセンタ ,  人工知能 ,  再利用 ,  有効性 ,  占有率 ,  制約条件 ,  パラメタリゼーション ,  *インターネット
準シソーラス用語： 性能劣化 ,  資源制約 , 【Automatic Indexing@JST】

著者キーワード (4件)： 人工ニューラルネットワーク ,  刈り込み ,  圧縮 ,  資源制約デバイス

分類 (2件)： 計算機網  (JC03000K) ,  通信網  (ND07030A)

タイトルに関連する用語 (4件)： インターネット ,  エッジ ,  ニューラルネットワーク ,  枝刈り