Pat
J-GLOBAL ID:201803004314704704
学習システムおよび学習方法
Inventor:
,
,
,
,
Applicant, Patent owner:
,
Agent (5):
大野 聖二
, 森田 耕司
, 津田 理
, 松野 知紘
, 酒谷 誠一
Gazette classification:公開公報
Application number (International application number):2016253169
Publication number (International publication number):2018106489
Application date: Dec. 27, 2016
Publication date: Jul. 05, 2018
Summary:
【課題】より高速にニューラルネットワーク用のパラメタを更新できる学習システムを提供する。【解決手段】学習システムのノード1夫々において、複数の微分値算出部2のそれぞれは、互いに同期することなく、パラメタ更新部3からある時点でのパラメタを受信し、受信したパラメタに基づいて、パラメタの更新に用いられる微分値を算出し、微分値をパラメタ更新部に送信する。パラメタ更新部は、微分値算出部から微分値を受信し、複数の微分値算出部による微分値算出と同期することなく、受信した微分値に基づいてパラメタを更新し、更新後のパラメタを前記複数の微分値算出部に送信する。微分値算出部は、微分値を算出する際、パラメタの受信時点から、算出した微分値がパラメタ更新部によってパラメタの更新に用いられるまでの間にパラメタが更新される回数に対応するステイルネスを考慮して、微分値を算出する。【選択図】図5
Claim (excerpt):
複数の微分値算出部と、パラメタ更新部とを備え、ニューラルネットワーク用のパラメタを更新する学習システムであって、
前記複数の微分値算出部のそれぞれは、互いに同期することなく、
前記パラメタ更新部からある時点でのパラメタを受信し、
前記受信したパラメタに基づいて、前記パラメタの更新に用いられる微分値を算出し、
前記微分値を前記パラメタ更新部に送信し、
前記パラメタ更新部は、
前記微分値算出部から前記微分値を受信し、
前記複数の微分値算出部による微分値算出と同期することなく、受信した前記微分値に基づいて前記パラメタを更新し、
更新後の前記パラメタを前記複数の微分値算出部に送信し、
前記微分値算出部は、前記微分値を算出する際、前記パラメタの受信時点から、算出した微分値が前記パラメタ更新部によって前記パラメタの更新に用いられるまでの間に前記パラメタが更新される回数に対応するステイルネスを考慮して、前記微分値を算出する、学習システム。
IPC (2):
FI (2):
F-Term (5):
5L096DA02
, 5L096GA02
, 5L096HA11
, 5L096JA11
, 5L096KA04
Return to Previous Page