特許
J-GLOBAL ID:200903020090240249
リカレントネットワークの学習装置
発明者:
出願人/特許権者:
代理人 (1件):
三好 秀和 (外1名)
公報種別:公開公報
出願番号(国際出願番号):特願平6-241534
公開番号(公開出願番号):特開平8-106445
出願日: 1994年10月05日
公開日(公表日): 1996年04月23日
要約:
【要約】【目的】 2回導関数を用いて、リカレントネットワークの学習を高速かつ高精度に行うことができるリカレントネットワークの学習装置を提供する。【構成】 初期化部21で結合重みΦ1 と制御変数H1 、kを初期化し、アルゴリズムの停止条件を停止条件判定部22で判定する。停止条件を満足しない場合には、修正方向ベクトルΔΦk を=-Hk ∇f(Φ)を修正方向計算部23で計算し、目的関数f(Φk +λk ΔΦk )を最小にする最適ステップ幅λk を最適探索ステップ幅計算部24で計算し、結合重みΦk+1 =Φk +λk ΔΦk を結合重み更新部25で更新する。近似行列計算部26で条件に基づいてHk+1 の計算を行い、停止条件判定部22において停止条件を判定する。
請求項(抜粋):
時系列データで表現された各事例の属性値の属性値ベクトルに対する目標出力値が与えられたとき、各事例の入出力写像を実現するリカレントネットワークの学習装置において、前記時系列データを入力し、ネットワークの結合重みと、結合重みの関数である目標関数の2回導関数行列の逆行列の近似行列の初期値を設定する初期化部と、前記時系列データを参照し、予め定められた停止条件を満足したら、その時点での結合重みを学習結果として出力し、満足しないならば、処理を継続する停止条件判定部と、前記時系列データから勾配ベクトルを計算し、前記近似行列とから結合重みの修正方向ベクトルを計算する結合重みの修正方向計算部と、目標関数を修正方向で2次近似し、その最小点を求めることにより前記修正方向ベクトルに対する最適な探索ステップ幅を計算する最適探索ステップ幅計算部と、前記最適探索ステップ幅計算部で計算した探索ステップ幅と前記修正方向ベクトルを乗じた値を修正量として結合重みを更新する結合重み更新部と、前記結合重み更新部で更新された結合重みに対して前記近似行列を計算し、前記停止条件判定部に処理を移行する近似行列計算部とを有することを特徴とするリカレントネットワークの学習装置。
IPC (2件):
G06F 15/18 520
, G06F 15/18 550
前のページに戻る