文献

J-GLOBAL ID：201802253637574082   整理番号：18A1507220

後方伝搬による確率的計算多層パーセプトロン【JST・京大機械翻訳】

A Stochastic Computational Multi-Layer Perceptron with Backward Propagation

著者 (5件)： Liu Yidong (Department of Electrical and Computer Engineering, University of Alberta, Edmonton, AB, Canada) ,  Liu Siting (Department of Electrical and Computer Engineering, University of Alberta, Edmonton, AB, Canada) ,  Wang Yanzhi (Electrical Engineering and Computer Science Department, Syracuse University, Syracuse, NY) ,  Lombardi Fabrizio (Department of Electrical and Computer Engineering, Northeastern University, Boston, MA) ,  Han Jie (Department of Electrical and Computer Engineering, University of Alberta, Edmonton, AB, Canada)
資料名： IEEE Transactions on Computers  (IEEE Transactions on Computers)
巻： 67  号： 9  ページ： 1273-1286  発行年： 2018年 
JST資料番号： C0233A  ISSN： 0018-9340  CODEN： ICTOB4  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 確率的計算は最近,ハードウェアと電力消費の低減を伴う人工ニューラルネットワークを実装するために提案されているが,精度と処理速度が低下している。多くの既存の実装は,重みが異なる層のニューロンに対して予め決められるような事前訓練に基づいており,したがって,これらの実装はネットワークパラメータの値を更新する能力を欠いている。本論文において,確率的計算多層パーセプトロン(SC-MLP)を,層重みを更新するために後方伝搬アルゴリズムを実行することによって提案した。拡張確率論的論理(ESL)を用いて,再構成可能な確率的計算活性化ユニット(SCAU)を設計し,tanhおよび整流器関数のような異なるタイプの活性化関数を実行した。確率的計算におけるランダム変動を低減するために,三重モジュール冗長性(TMR)技術を採用した。確率推定器(PE)とTMRに基づく分割器と二値探索アルゴリズムを,必要な確率的配列長さを低減するための漸進的精度を用いてさらに提案した。したがって,SC-MLPの待ち時間とエネルギー消費は著しく減少する。シミュレーション結果は,提案した設計が訓練と推論プロセスの両方を実行できることを示した。非線形的に分離可能なパターンの分類に対して,精度のわずかな損失で1.32~1.34%において,提案した設計は,浮動小数点演算を用いた設計によって生じる面積の28.5~30.1%とエネルギー消費の18.9~23.9%を必要とする。固定小数点実装と比較して,SC-MLPは,類似処理速度でより小さい面積(40.7~45.5%)とより低いエネルギー消費(38.0~51.0%)を消費し,0.15~0.33%の精度のわずかな低下を示した。提案した設計の面積とエネルギー消費は,それぞれ80.7~87.1%と71.9~93.1%の二値化ニューラルネットワーク(BNN)からなり,類似の精度を持つ。Copyright 2018 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 整流器 ,  統計的推定 ,  ニューロン ,  アルゴリズム ,  ハードウェア ,  エネルギー消費 ,  計算機シミュレーション ,  *多層パーセプトロン ,  待ち時間 ,  シミュレーション ,  電力消費 ,  確率論 ,  冗長性
準シソーラス用語： 二値化 ,  探索アルゴリズム ,  処理速度 , 【Automatic Indexing@JST】

分類 (3件)： 計算理論  (JB02000A) ,  演算方式  (JC02020Z) ,  計算機網  (JC03000K)

タイトルに関連する用語 (4件)： 伝搬 ,  確率 ,  計算 ,  多層パーセプトロン