Pat

J-GLOBAL ID：200903020090240249

リカレントネットワークの学習装置

Inventor： 斉藤 和巳
Applicant, Patent owner： 日本電信電話株式会社
Agent (1)： 三好 秀和 (外1名)
Gazette classification：公開公報
Application number (International application number)：1994241534
Publication number (International publication number)：1996106445
Application date： Oct. 05, 1994
Publication date： Apr. 23, 1996
Summary：

【要約】【目的】 2回導関数を用いて、リカレントネットワークの学習を高速かつ高精度に行うことができるリカレントネットワークの学習装置を提供する。【構成】 初期化部21で結合重みΦ1 と制御変数H1 、kを初期化し、アルゴリズムの停止条件を停止条件判定部22で判定する。停止条件を満足しない場合には、修正方向ベクトルΔΦk を=-Hk ∇f(Φ)を修正方向計算部23で計算し、目的関数f(Φk +λk ΔΦk )を最小にする最適ステップ幅λk を最適探索ステップ幅計算部24で計算し、結合重みΦk+1 =Φk +λk ΔΦk を結合重み更新部25で更新する。近似行列計算部26で条件に基づいてHk+1 の計算を行い、停止条件判定部22において停止条件を判定する。

Claim (excerpt)：

時系列データで表現された各事例の属性値の属性値ベクトルに対する目標出力値が与えられたとき、各事例の入出力写像を実現するリカレントネットワークの学習装置において、前記時系列データを入力し、ネットワークの結合重みと、結合重みの関数である目標関数の2回導関数行列の逆行列の近似行列の初期値を設定する初期化部と、前記時系列データを参照し、予め定められた停止条件を満足したら、その時点での結合重みを学習結果として出力し、満足しないならば、処理を継続する停止条件判定部と、前記時系列データから勾配ベクトルを計算し、前記近似行列とから結合重みの修正方向ベクトルを計算する結合重みの修正方向計算部と、目標関数を修正方向で2次近似し、その最小点を求めることにより前記修正方向ベクトルに対する最適な探索ステップ幅を計算する最適探索ステップ幅計算部と、前記最適探索ステップ幅計算部で計算した探索ステップ幅と前記修正方向ベクトルを乗じた値を修正量として結合重みを更新する結合重み更新部と、前記結合重み更新部で更新された結合重みに対して前記近似行列を計算し、前記停止条件判定部に処理を移行する近似行列計算部とを有することを特徴とするリカレントネットワークの学習装置。

IPC (2)：

G06F 15/18 520 ,  G06F 15/18 550