文献

J-GLOBAL ID：202102212506945359   整理番号：21A0993594

効率的なニューロモルフィックハードウェアに向けて:教師なし適応ニューロン枝刈り【JST・京大機械翻訳】

Towards Efficient Neuromorphic Hardware: Unsupervised Adaptive Neuron Pruning

著者 (6件)： Guo Wenzhe (Division of Computer, Electrical and Mathematical Sciences and Engineering, King Abdullah University of Science and Technology, Thuwal 23955, Saudi Arabia) ,  Yantir Hasan Erdem (Division of Computer, Electrical and Mathematical Sciences and Engineering, King Abdullah University of Science and Technology, Thuwal 23955, Saudi Arabia) ,  Fouda Mohammed E. (Department of Electrical Engineering and Computer Science, University of California-Irvine, Irvine, CA 92612, USA) ,  Eltawil Ahmed M. (Division of Computer, Electrical and Mathematical Sciences and Engineering, King Abdullah University of Science and Technology, Thuwal 23955, Saudi Arabia) ,  Eltawil Ahmed M. (Department of Electrical Engineering and Computer Science, University of California-Irvine, Irvine, CA 92612, USA) ,  Salama Khaled Nabil (Division of Computer, Electrical and Mathematical Sciences and Engineering, King Abdullah University of Science and Technology, Thuwal 23955, Saudi Arabia)
資料名： Electronics (Web)  (Electronics (Web))
巻： 9  号： 7  ページ： 1059  発行年： 2020年 
JST資料番号： U7178A  ISSN： 2079-9292  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： スイス (CHE)  言語： 英語 (EN)

抄録/ポイント： リアルタイムの課題を解決するため,神経形態学的システムは,一般的に深く複雑なネットワーク構造を必要とする。従って,ネットワークの複雑さを低減し,エネルギー効率を改善し,高精度を維持する有効な解決策を探索することが重要である。この目的のために,著者らは,ネットワークダイナミックスを利用することによって,スパイキングニューラルネットワーク(SNN)で訓練しながら,枝刈りニューロンに焦点を合わせた教師なし枝刈り戦略を提案する。ニューロンの重要性は,より多くのスパイクを発火するニューロンがネットワーク性能に寄与するという事実によって決定される。これらの基準に基づいて,適応スパイクカウント閾値による剪定は,ネットワークサイズを著しく低減でき,高い分類精度を維持することができる簡単で効果的なアプローチを提供することを実証した。オンライン適応剪定は,より少ないメモリアクセスとより少ない重み更新計算のため,エネルギー効率の良い訓練技術を開発する可能性を示した。さらに,並列ディジタル実装方式を提案し,フィールドプログラマブルゲートアレイ(FPGA)上にスパイキングニューラルネットワーク(SNN)を実装する。特に,提案剪定戦略は,重み行列の高密度フォーマットを保存するので,実装アーキテクチャはネットワーク圧縮後に同じままである。適応剪定戦略は,400ニューロンが800-ニューロンネットワークから剪定されたとき,メモリサイズの2.3の削減とエネルギー効率の2.8の改善を可能にし,一方,分類精度の損失は1.69%であった。そして,剪定率の最良の選択は,精度,記憶,およびエネルギーの間のトレードオフに依存する。したがって,本研究は,リアルタイムアプリケーションにおける神経形態システムの有効なネットワーク圧縮とエネルギー効率の良いハードウェア実装のための有望な解決策を提供する。Copyright 2021 The Author(s) All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 記憶装置 ,  学習 ,  ネットワーク ,  *ニューロン ,  ネットワーク構造 ,  *ハードウェア ,  計算機アーキテクチャ ,  神経回路網 ,  FPGA
準シソーラス用語： メモリアクセス ,  実時間 ,  オンライン ,  ハードウェア実装 ,  スパイキングニューラルネットワーク ,  神経形態学 , 【Automatic Indexing@JST】

著者キーワード (7件)： 神経形態計算 ,  スパイキングニューラルネットワーク ,  ニューロン枝刈り ,  ネットワーク圧縮 ,  教師なしSTDP学習 ,  ディジタル実装 ,  FPGAプラットフォーム

分類 (2件)： ニューロコンピュータ  (JC06010Q) ,  人工知能  (JE08000Z)

引用文献 (25件)：

• Grossfeld, R.M. An Introduction to Nervous Systems. Ralph J. Greenspan, editor. Integr. Comp. Biol. 2008, 48, 439-441.
• Furber, S.B.; Galluppi, F.; Temple, S.; Plana, L.A. The SpiNNaker Project. Proc. IEEE 2014, 102, 652-665.
• Davies, M.; Srinivasa, N.; Lin, T.; Chinya, G.; Cao, Y.; Choday, S.H.; Dimou, G.; Joshi, P.; Imam, N.; Jain, S.; et al. Loihi: A Neuromorphic Manycore Processor with On-Chip Learning. IEEE Micro 2018, 38, 82-99.
• Merolla, P.A.; Arthur, J.V.; Alvarez-Icaza, R.; Cassidy, A.S.; Sawada, J.; Akopyan, F.; Jackson, B.L.; Imam, N.; Guo, C.; Nakamura, Y.; et al. A million spiking-neuron integrated circuit with a scalable communication network and interface. Science 2014, 345, 668-673.
• Tavanaei, A.; Ghodrati, M.; Kheradpisheh, S.R.; Masquelier, T.; Maida, A. Deep learning in spiking neural networks. Neural Netw. 2019, 111, 47-63.

タイトルに関連する用語 (4件)： 教師 ,  適応 ,  ニューロン ,  枝刈り