特許
J-GLOBAL ID:201803021179152749

学習装置、学習方法および学習プログラム

発明者:
出願人/特許権者:
代理人 (1件): 特許業務法人酒井国際特許事務所
公報種別:公開公報
出願番号(国際出願番号):特願2016-203546
公開番号(公開出願番号):特開2018-067039
出願日: 2016年10月17日
公開日(公表日): 2018年04月26日
要約:
【課題】RNNを用いた学習において、調整パラメータを容易に調整できるとともに、急激な勾配の増加を防いで安定的に学習を進めることができる。【解決手段】学習装置10は、RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部12と、勾配を用いてパラメータを更新するとともに、重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部13と、を有する。【選択図】図2
請求項(抜粋):
RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、 前記RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部と、 前記勾配を用いてパラメータを更新するとともに、前記重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部と、 を有することを特徴とする学習装置。
IPC (1件):
G06N 3/08
FI (1件):
G06N3/08
引用特許:
出願人引用 (1件) 審査官引用 (1件)
引用文献:
出願人引用 (1件)
  • SCALE NORMALIZATION, 20160426, v1, p.1-4
審査官引用 (1件)
  • SCALE NORMALIZATION, 20160426, v1, p.1-4

前のページに戻る