特許

J-GLOBAL ID：201803021179152749

学習装置、学習方法および学習プログラム

発明者： 金井 関利 ,  藤原 靖宏 ,  飯田 恭弘 ,  岩村 相哲
出願人/特許権者： 日本電信電話株式会社
代理人 (1件)： 特許業務法人酒井国際特許事務所
公報種別：公開公報
出願番号（国際出願番号）：特願2016-203546
公開番号（公開出願番号）：特開2018-067039
出願日： 2016年10月17日
公開日（公表日）： 2018年04月26日
要約：

【課題】RNNを用いた学習において、調整パラメータを容易に調整できるとともに、急激な勾配の増加を防いで安定的に学習を進めることができる。【解決手段】学習装置10は、RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部12と、勾配を用いてパラメータを更新するとともに、重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部13と、を有する。【選択図】図2

請求項（抜粋）：

RNN(Recurrent Neural Network)のモデルを用いて学習を行う学習装置であって、 前記RNNのモデルのパラメータである重み行列による損失関数の勾配を計算する勾配計算部と、 前記勾配を用いてパラメータを更新するとともに、前記重み行列を特異値分解し、該分解した特異値に制約を加えて学習を進めるパラメータ更新部と、 を有することを特徴とする学習装置。

IPC (1件)：

G06N 3/08

FI (1件)：

G06N3/08

引用特許：

審査官引用 (1件)

• データ処理装置および方法、記録媒体、並びにプログラム
  公報種別：公開公報   出願番号：特願2001-031788   出願人：ソニー株式会社

引用文献：

審査官引用 (1件)

• SCALE NORMALIZATION, 20160426, v1, p.1-4