文献

J-GLOBAL ID：200902299021993570   整理番号：08A0592733

単一層のパーセプトロンから構成される極めてシンプルなユニバーサル近似器のための学習ルール

A learning rule for very simple universal approximators consisting of a single layer of perceptrons

著者 (3件)： AUER Peter (Chair for Information Technol., Univ. of Leoben, Franz-Josef-Strasse 18, A-8700 Leoben, AUT) ,  BURGSTEINER Harald (Dep. of Health Care Engineering, Graz Univ. of Applied Sciences, Eggenberger Allee 11, A-8020 Graz, AUT) ,  MAASS Wolfgang (Inst. for Theoretical Computer Sci., Graz Univ. of Technol., Inffeldgasse 16b/1, A-8010 Graz, AUT)
資料名： Neural Networks  (Neural Networks)
巻： 21  号： 5  ページ： 786-795  発行年： 2008年06月 
JST資料番号： T0698A  ISSN： 0893-6080  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： イギリス (GBR)  言語： 英語 (EN)

抄録/ポイント： 複数パーセプトロンの並列アレイはシンプルではあるが,二値パーセプトロン出力を並列パーセプトロンの二値出力と見なすならば,その回路では,任意のBoole関数の計算が可能であり,1を出力するパーセプトロンの一部を並列パーセプトロンのアナログ出力と見なすならば,[0,1]に値を持つ任意の連続関数に対するユニバーサル近似器である。長い間,これら極めてシンプルなニューラルネットワークに対して競合学習アルゴリズムが存在しないと考えてきたが,そのことはまた委員会マシンとして知られている。シグモイドゲート(またはRBFゲート)により隠れ層上でハード閾値ゲートを置換することと,ユニバーサル近似器を獲得する任意のクラスのニューラルネットワークに満足できる学習結果を実現するためには,少なくとも2つの連続層上の重みをチューニングしなければならない。ここでは,並列パーセプトロンに対するシンプルな学習アルゴリズム-並列デルタルール(p-deltaルール)を提示することにより,この仮説が正しくないことを示した。多層パーセプトロンに対する逆伝搬法と比べて,このp-deltaルールのみは,単一の重み層のチューニングをしなければならず,高い精度を持つアナログ値の計算および通信を必要としない。また,削減された通信ではMADALILEのような並列パーセプトロンに対する他の学習ルールから新しい学習ルールを識別する。明らかにこれらの特徴より生物学的ニューラル回路における逆伝搬法に対する生物学的により現実的な代替案として,p-deltaが生物学的ニューラルネットワーク回路における逆伝搬法に対してより生物学的に現実性の高い代替案になるだけでなく,専用ハードウェアにおける実装にとっても魅力的になる。ここでは,p-deltaルールでは微分計算を必要としてはいないが,適切な誤差測度に関して勾配降下法の実装を行うことも示した。さらに,通常の実世界ベンチマークデータセット上での実験を通して,ニューラルネットワークと機械学習からのその他の学習アプローチの性能と比べて,その性能が比肩可能であることを示した。最近の論文[Anthony(2004,2007)]では,この新しい学習ルールの汎化誤差に対する極めて満足のできる限界値の証明も可能になることが示されている。(翻訳著者抄録)

シソーラス用語： *競合学習 ,  *パーセプトロン ,  並列処理 ,  Boole関数 ,  シグモイド関数 ,  機械学習 ,  学習アルゴリズム ,  逆伝搬法 ,  *神経回路網 ,  最急降下法 ,  実装設計 ,  性能評価 ,  汎化 ,  誤差
準シソーラス用語： 勾配降下法

分類 (2件)： ニューロコンピュータ  (JC06010Q) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 単一層 ,  パーセプトロン ,  ユニバーサル近似 ,  学習ルール