文献

J-GLOBAL ID：202102243315103597   整理番号：21A0132144

メモリReRAMアレイとDNNモデル最適化アルゴリズムにおける二値処理のコデザイン

Co-Design of Binary Processing in Memory ReRAM Array and DNN Model Optimization Algorithm

著者 (2件)： GUAN Yue (Graduate School of Information, Production and Systems, Waseda University) ,  OHSAWA Takashi (Graduate School of Information, Production and Systems, Waseda University)
資料名： IEICE Transactions on Electronics (Web)  (IEICE Transactions on Electronics (Web))
巻： E103.C  号： 11  ページ： 685-692(J-STAGE)  発行年： 2020年 
JST資料番号： U0468A  ISSN： 1745-1353  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： 近年,深層ニューラルネットワーク(DNN)は多くの人工知能タスク,例えば自然言語処理に関してかなりの結果を達成した。しかし,DNNの計算複雑度は非常に高かった。さらに,従来のvon Neumann計算アーキテクチャの性能はメモリウォール問題により減速した。メモリ(PIM)での処理はメモリ内で計算を配置し,データ移動を低減し,メモリウォールを破った。ReRAM PIMはDNN加速器のための利用可能なアーキテクチャであると考えられる。本研究では,ReRAMニューロモルフィックシステムの新しい設計を,効率的にアレイでDNNを処理するために提案した。バイナリReRAMアレイは2T2Rストレージセルと電流ミラーセンス増幅器から成る。ダミーBL基準方式を基準電圧発生のために提案した。次に,二値DNN(BDNN)モデルを構築し,MNISTデータセット上で最適化した。このモデルは,96.33%の検証精度に達し,ReRAM PIMシステムへ展開した。ハードウェアデバイスとソフトウェアアルゴリズムの間のコデザインモデル最適化方法を,最適化手順の不確実さとしてハードウェア分散情報を利用するアイデアによって提案した。この方法を解析し,実現可能なハードウェア設計と一般化可能なモデルを達成した。このようなコデザインモデルにより,ReRAMアレイは,製作変動に対して高いロバスト性によりDNNを処理する。(翻訳著者抄録)

シソーラス用語： *RAM【メモリ】 ,  電気抵抗 ,  *ニューラルネットワーク ,  最適化手法 ,  *システム設計 ,  人工知能 ,  自然言語処理 ,  Von Neumann環 ,  電流源等価回路 ,  ハードウェア設計 ,  センス増幅器 ,  二値論理
準シソーラス用語： *ReRAM ,  *コデザイン ,  最適化アルゴリズム ,  *深層ニューラルネットワーク ,  電流ミラー

著者キーワード (3件)： ニューロモルフィックReRAM ,  二値ニューラルネットワーク ,  製造変動

分類 (1件)： ディジタル計算機方式一般  (JC02010O)

引用文献 (14件)：

• [1] Y. Guan and T. Ohsawa, “Co-design of DNN model optimization for binary ReRAM array in-memory processing,” 2019 IEEE 11th International Memory Workshop (IMW), pp.1-4, 2019. 10.1109/imw.2019.8739722
• [2] Y. LeCun, Y. Bengio, and G. Hinton, “Deep learning,” Nature, vol.521, no.7553, pp.436-444, 2015. 10.1038/nature14539
• [3] P.L. Bartlett, “The sample complexity of pattern classification with neural networks: the size of the weights is more important than the size of the network,” IEEE Trans. Inf. Theory, vol.44, no.2, pp.525-536, 1998. 10.1109/18.661502
• [4] S. Mittal, “A survey of ReRAM-based architectures for processing-in-memory and neural networks,” Machine Learning and Knowledge Extraction, vol.1, no.1, pp.75-114, 2018. 10.3390/make1010005
• [5] H. Akinaga and H. Shima, “Resistive random access memory (ReRAM) based on metal oxides,” Proc. IEEE, vol.98, no.12, pp.2237-2251, 2010. 10.1109/jproc.2010.2070830

タイトルに関連する用語 (6件)： ReRAM ,  アレイ ,  モデル ,  最適化アルゴリズム ,  二値 ,  コデザイン