文献

J-GLOBAL ID：201702241591004343   整理番号：17A1267696

SoftTarget正則化:ニューラルネットワークにおける過あてはめを減少させるための効果的な技術【Powered by NICT】

SoftTarget Regularization: An Effective Technique to Reduce Over-Fitting in Neural Networks

著者 (1件)： Aghajanyan Armen
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2017  号： CYBCONF  ページ： 1-5  発行年： 2017年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： ディープニューラルネットワークは非常に高い容量を持つ学習モデル,過剰適合する傾向がある。ドロップアウト,DropConnect,および重み減衰のような多くの正則化技術はすべて,(Wan.,2013),それらのそれぞれのモデル(Srivastava.,2014)の容量(KroghとHertz,1992)を減少させることによって過剰適合の問題を解決することを試みた。本論文では,モデルの能力を犠牲にすることなく,過剰適合減らす方法において学習問題を誘導する正則化の新しい形式を導入した。モデルは訓練の初期段階でする誤りは学習問題に関する情報を持っている。加重平均実ラベルの訓練の現在の時代,および指数関数平均過去ソフトターゲットの標識を調整することにより,モデルの能力を減少させる必ずしもないDropoutと同様に強力な正則化スキームを達成し,学習問題の複雑さを単純化した。SoftTarget正則化はいろいろな神経回路網アーキテクチャにおける有効なツールであることが証明された。Copyright 2017 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： 学習モデル ,  簡素化 ,  *正則化 ,  学習 ,  神経回路網 ,  *ニューラルネットワーク ,  計算機アーキテクチャ ,  指数関数 ,  加重平均 ,  ディープニューラルネットワーク ,  改変

分類 (2件)： 人工知能  (JE08000Z) ,  パターン認識  (JE07000S)

タイトルに関連する用語 (3件)： 正則化 ,  ニューラルネットワーク ,  あてはめ