特許
J-GLOBAL ID:201803004314704704
学習システムおよび学習方法
発明者:
,
,
,
,
出願人/特許権者:
,
代理人 (5件):
大野 聖二
, 森田 耕司
, 津田 理
, 松野 知紘
, 酒谷 誠一
公報種別:公開公報
出願番号(国際出願番号):特願2016-253169
公開番号(公開出願番号):特開2018-106489
出願日: 2016年12月27日
公開日(公表日): 2018年07月05日
要約:
【課題】より高速にニューラルネットワーク用のパラメタを更新できる学習システムを提供する。【解決手段】学習システムのノード1夫々において、複数の微分値算出部2のそれぞれは、互いに同期することなく、パラメタ更新部3からある時点でのパラメタを受信し、受信したパラメタに基づいて、パラメタの更新に用いられる微分値を算出し、微分値をパラメタ更新部に送信する。パラメタ更新部は、微分値算出部から微分値を受信し、複数の微分値算出部による微分値算出と同期することなく、受信した微分値に基づいてパラメタを更新し、更新後のパラメタを前記複数の微分値算出部に送信する。微分値算出部は、微分値を算出する際、パラメタの受信時点から、算出した微分値がパラメタ更新部によってパラメタの更新に用いられるまでの間にパラメタが更新される回数に対応するステイルネスを考慮して、微分値を算出する。【選択図】図5
請求項(抜粋):
複数の微分値算出部と、パラメタ更新部とを備え、ニューラルネットワーク用のパラメタを更新する学習システムであって、
前記複数の微分値算出部のそれぞれは、互いに同期することなく、
前記パラメタ更新部からある時点でのパラメタを受信し、
前記受信したパラメタに基づいて、前記パラメタの更新に用いられる微分値を算出し、
前記微分値を前記パラメタ更新部に送信し、
前記パラメタ更新部は、
前記微分値算出部から前記微分値を受信し、
前記複数の微分値算出部による微分値算出と同期することなく、受信した前記微分値に基づいて前記パラメタを更新し、
更新後の前記パラメタを前記複数の微分値算出部に送信し、
前記微分値算出部は、前記微分値を算出する際、前記パラメタの受信時点から、算出した微分値が前記パラメタ更新部によって前記パラメタの更新に用いられるまでの間に前記パラメタが更新される回数に対応するステイルネスを考慮して、前記微分値を算出する、学習システム。
IPC (2件):
FI (2件):
Fターム (5件):
5L096DA02
, 5L096GA02
, 5L096HA11
, 5L096JA11
, 5L096KA04
前のページに戻る