Pat
J-GLOBAL ID:202003008365977725

ニューラルネットワークにおいてパラメータを処理する方法及び装置

Inventor:
Applicant, Patent owner:
Agent (3): 伊東 忠重 ,  伊東 忠彦 ,  大貫 進介
Gazette classification:公開公報
Application number (International application number):2019124747
Publication number (International publication number):2020009444
Application date: Jul. 03, 2019
Publication date: Jan. 16, 2020
Summary:
【課題】 ニューラルネットワークにおいて、パラメータを処理する方法及びその装置を提供する。【解決手段】 低精度ナンバーシステムを利用するニューラルネットワークにおいて、パラメータを処理する方法及びその装置に係り、ニューラルネットワークのウェートをアップデートするための個別グラジエント値と残余グラジエント値とを計算し、加算器を利用し、個別グラジエント値、残余グラジエント値及びウェートを合算し、合算結果に基づいて、ウェート及び残余グラジエント値をアップデートする方法及びその装置である。【選択図】 図7
Claim (excerpt):
低精度ナンバーシステムを利用するニューラルネットワークにおいて、パラメータを処理する方法において、 前記ニューラルネットワークのウェートをアップデートするための個別グラジエント値を計算する段階と、 前記個別グラジエント値を累積した累積グラジエント値、及び前記ウェートのビット桁に基づいて、残余グラジエント値を計算する段階と、 前記残余グラジエント値のビット桁に対応するように、前記個別グラジエント値を調整する段階と、 加算器を利用し、前記調整された個別グラジエント値、前記残余グラジエント値及び前記ウェートを合算する段階と、 前記合算結果に基づいて、前記ウェート及び前記残余グラジエント値をアップデートする段階と、を含む方法。
IPC (1):
G06N 3/08
FI (1):
G06N3/08

Return to Previous Page