ニューラルネットワークの最適化学習方法

Inventor： ,
Applicant, Patent owner：
Agent (1)：森田雄一
Gazette classification：公開公報
Application number (International application number)：2001018758
Publication number (International publication number)：2002222409
Application date： Jan. 26, 2001
Publication date： Aug. 09, 2002
Summary：

【要約】【課題】高速かつ効率的にニューラルネットワークを最適化するニューラルネットワークの最適化学習方法を提供する。【解決手段】学習とコンパクト構造化とを交互に行ってニューラルネットワークを最適化するニューラルネットワークの最適化学習方法において、2個の素子を融合する場合に、存続する素子と修正する素子のそれぞれの重み係数および慣性項を組み合わせて生成した新たな重み係数修正式により以後の学習およびコンパクト構造化を行うニューラルネットワークの最適化学習方法とする。

Claim (excerpt)：

ニューラルネットワークの評価関数の勾配と重み修正量の慣性項とを含む重み係数修正式を利用して重み係数を修正するモーメント法により、ニューラルネットワークの入力層、中間層、および、出力層の素子間の重み係数を増減して新たにニューラルネットワークを生成する学習を行い、このニューラルネットワークの中間層の中の1個の素子の出力値系列を用いて求めた分散が所定値以下の場合にこの素子をバイアス素子に融合し、また、このニューラルネットワークの中間層の中の2個の素子の出力値系列を用いて求めた相関係数の絶対値が所定値以上の場合にこれら2個の素子を情報伝達的に同じ働きであるとして融合するコンパクト構造化を行い、これら学習とコンパクト構造化とを交互に行ってニューラルネットワークを最適化するニューラルネットワークの最適化学習方法において、2個の素子を融合する場合に、存続する素子と消滅する素子のそれぞれの重み係数および慣性項を組み合わせて生成した新たな重み係数修正式により以後の学習およびコンパクト構造化を行うことを特徴とするニューラルネットワークの最適化学習方法。

Patent cited by the Patent：

Cited by examiner (4)

ニューラルネットワークの最適化学習方法
Gazette classification：公開公報 Application number：特願平11-066165 Applicant：富士電機株式会社
神経系学習装置
Gazette classification：公開公報 Application number：特願平5-205414 Applicant：中部電機株式会社
特開平3-210686