特許
J-GLOBAL ID:200903048980113726
ニューラルネットワークの最適化学習方法
発明者:
,
出願人/特許権者:
代理人 (1件):
森田 雄一
公報種別:公開公報
出願番号(国際出願番号):特願2001-018758
公開番号(公開出願番号):特開2002-222409
出願日: 2001年01月26日
公開日(公表日): 2002年08月09日
要約:
【要約】【課題】高速かつ効率的にニューラルネットワークを最適化するニューラルネットワークの最適化学習方法を提供する。【解決手段】学習とコンパクト構造化とを交互に行ってニューラルネットワークを最適化するニューラルネットワークの最適化学習方法において、2個の素子を融合する場合に、存続する素子と修正する素子のそれぞれの重み係数および慣性項を組み合わせて生成した新たな重み係数修正式により以後の学習およびコンパクト構造化を行うニューラルネットワークの最適化学習方法とする。
請求項(抜粋):
ニューラルネットワークの評価関数の勾配と重み修正量の慣性項とを含む重み係数修正式を利用して重み係数を修正するモーメント法により、ニューラルネットワークの入力層、中間層、および、出力層の素子間の重み係数を増減して新たにニューラルネットワークを生成する学習を行い、このニューラルネットワークの中間層の中の1個の素子の出力値系列を用いて求めた分散が所定値以下の場合にこの素子をバイアス素子に融合し、また、このニューラルネットワークの中間層の中の2個の素子の出力値系列を用いて求めた相関係数の絶対値が所定値以上の場合にこれら2個の素子を情報伝達的に同じ働きであるとして融合するコンパクト構造化を行い、これら学習とコンパクト構造化とを交互に行ってニューラルネットワークを最適化するニューラルネットワークの最適化学習方法において、2個の素子を融合する場合に、存続する素子と消滅する素子のそれぞれの重み係数および慣性項を組み合わせて生成した新たな重み係数修正式により以後の学習およびコンパクト構造化を行うことを特徴とするニューラルネットワークの最適化学習方法。
引用特許: