Pat

J-GLOBAL ID：200903015906719862

神経系学習装置

Inventor： 臼井 支朗 ,  落合 慶広
Applicant, Patent owner： 中部電機株式会社
Agent (1)： 石黒 健二
Gazette classification：公開公報
Application number (International application number)：1993205414
Publication number (International publication number)：1995056880
Application date： Aug. 19, 1993
Publication date： Mar. 03, 1995
Summary：

【要約】【目的】 学習率の更新に関し頑丈な、収束の速い繰返し手段を備える。【構成】 入力パターンおよび教師信号の入力手段と、神経細胞の結合の重みベクトルWk に対する出力パターンの計算手段(12)と、前記出力パターンを前記教師信号に近づける繰返し手段とから成る。前記繰返し手段は、繰返し回数がk-1からkに変る際の、前記計算誤差の評価関数の値変動による、学習率ベクトルηk-1 の更新手段(13)と、ηk と前記評価関数の勾配ベクトルgk による勾配項に重み増分ベクトルΔWk-1 による慣性項を加え(14)、gk の差分ベクトルyk-1 とyk の内積が負の場合のみ、前記yk による補正項を付加して(15)なるΔWk をWk に加えWk+1 を得る(16)、Wk の更新手段とから成る。

Claim (excerpt)：

(a)学習の問題に用いる入力パターンおよびこの入力パターンの認識目標である教師信号を入力する入力手段と、(b)前記入力手段で入力された入力パターンに対し、与えられた神経系モデルにより、その神経細胞の個々の結合部分の結合効率を表す量である重みを要素とする重みベクトルを指定して出力パターンを計算する神経系計算手段と、(c)前記重みベクトルを順次変更して前記神経系計算を繰り返し、前記出力パターンが前記入力手段で入力された教師信号に対して許容の誤差内となるように学習する繰り返し手段とから構成される神経系学習装置において、前記繰り返し手段は、(d)前記個々の神経細胞の結合部分に対応する重みの関数であり、前記出力パターンの前記教師信号に対する誤差を評価する評価関数の値の、前記個々の重みの値の前回の値からの変化に対する変化の度合いによって、前記重みに対応する学習率を、前記変化の度合いが大きいと判定した場合は減少させ、前記変化の度合いが小さいと判定した場合は増加させることにより更新する学習率の非補正型更新手段と、(e)前記個々の神経細胞の結合部分に対応する、前記重みについての前記評価関数の一次偏微分である勾配に、これに対応する、負符号を作用させた前記学習率を乗じたものを要素とする勾配ベクトルである勾配項に、前回の重み増分ベクトルにこの重み増分ベクトルからの影響度を決める慣性率を乗じたベクトルである慣性項を加えてなる重み増分ベクトルを計算し、前記重みベクトルが評価関数曲面の谷底付近に来るように前記重み増分ベクトルを補正して前記重みベクトルに加える重みの補正型変更手段とを備えることを特徴とする神経系学習装置。

IPC (2)：

G06F 15/18 520 ,  G06G 7/60