スパース深層ニューラルネットワークの正確な実装のためのクロスバ非理想性の影響の調査と軽減【JST・京大機械翻訳】

Bhattacharjee Abhiroop; Bhatnagar Lakshya; Panda Priyadarshini

プレプリント

J-GLOBAL ID：202202200868858730 整理番号：22P0027466

スパース深層ニューラルネットワークの正確な実装のためのクロスバ非理想性の影響の調査と軽減【JST・京大機械翻訳】

Examining and Mitigating the Impact of Crossbar Non-idealities for Accurate Implementation of Sparse Deep Neural Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月13日プレプリントサーバーでの情報更新日： 2022年01月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

最近,いくつかの構造化剪定技術が,より少ない数のクロスバーを持つ深層ニューラルネットワーク(DNN)のエネルギー効率の良い実装のために導入されてきた。しかし,これらの技法はクロスバー上のスパースDNNの精度を保存することを主張しているが,不可解なクロスバーの非理想性の影響を,剪定ネットワークの実際の性能に研究していない。この目的のために,著者らは,非常にスパースなDNNが,重要なクロスバー圧縮速度をもたらす,非理想クロスバー上にマッピングされた非ランプルDNNと比較して,厳しい精度損失に導くことができるかを示すために,包括的な研究を行う。ベンチマークデータセット(CIFAR10とCIFAR100)によるVGG11とVGG16 DNNsに関する多重構造化プラニングアプローチ(例えば,C/F剪定,XCSとXRS)による実験を行った。2つの緩和アプローチ,すなわち,Crossbarカラム再配列と重み制約訓練(WCT)を提案し,これは,枝刈りモデルによる精度損失を最小化するために,スパースDNNのクロスバーマッピングと統合できる。これらは,クロスバー上の低コンダクタンスシナプスの割合を増加させることによって非理想性を緩和することを助け,それによってそれらの計算精度を改善する。【JST・京大機械翻訳】

, , , , ,
, , , , 【Automatic Indexing@JST】

半導体集積回路

, , ,

前のページに戻る