Pat

J-GLOBAL ID：201803021179152749

学習装置、学習方法および学習プログラム

Inventor： 金井 関利 ,  藤原 靖宏 ,  飯田 恭弘 ,  岩村 相哲
Applicant, Patent owner： 日本電信電話株式会社
Agent (1)： 特許業務法人酒井国際特許事務所
Gazette classification：公開公報
Application number (International application number)：2016203546
Publication number (International publication number)：2018067039
Application date： Oct. 17, 2016
Publication date： Apr. 26, 2018
Summary：

【課題】RNNを用いた学習において、調整パラメータを容易に調整できるとともに、急激な勾配の増加を防いで安定的に学習を進めることができる。【解決手段】学習装置10は、RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部12と、勾配を用いてパラメータを更新するとともに、重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部13と、を有する。【選択図】図2

Claim (excerpt)：

RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、 前記RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部と、 前記勾配を用いてパラメータを更新するとともに、前記重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部と、 を有することを特徴とする学習装置。

IPC (1)：

G06N 3/08

FI (1)：

G06N3/08

Patent cited by the Patent：

Cited by examiner (1)

• データ処理装置および方法、記録媒体、並びにプログラム
  Gazette classification：公開公報   Application number：特願2001-031788   Applicant：ソニー株式会社

Article cited by the Patent：

Cited by examiner (1)

• SCALE NORMALIZATION, 20160426, v1, p.1-4