文献

J-GLOBAL ID：201702292223396928   整理番号：17A1257383

スパース正則化によるReLU活性化をもつセルラニューラルネットワークのための学習の改善【Powered by NICT】

Improvement of learning for CNN with ReLU activation by sparse regularization

著者 (2件)： Ide Hidenori (Department of Information Engineering, Hiroshima University) ,  Kurita Takio (Department of Information Engineering, Hiroshima University)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2017  号： IJCNN  ページ： 2684-2691  発行年： 2017年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 本論文では,隠れ層における整流線形単位(ReLU)畳込みニューラルネットワーク(CNN)のためのスパース正則化を紹介した。ReLUの入力のためのスパース性を導入することにより,学習過程におけるReLUの入力を零に効果である。ReLUの出力の不必要な増加を防ぐことができることが期待される。これは回分正規化と同様の効果である。ReLUの入力の不必要な負の値は,スパース性を導入することによって軽減することができた。これは訓練されたネットワークの一般化を改善することができる。提案した方法とバッチ正規化間の関係あるいは指数関数的線形ユニット(ELU)のような活性化関数の変化についても考察した。提案した方法の有効性を実験により確認した。Copyright 2017 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： 指数関数 ,  畳込み ,  正規化 ,  *ニューラルネットワーク ,  *透視図法 ,  *ネットワーク ,  整流 ,  *正則化 ,  ロット ,  線形性 ,  *セルラニューラルネットワーク
準シソーラス用語： 活性化関数 ,  学習過程 ,  スパース性 ,  隠れ層 , 【Automatic Indexing@JST】

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 正則化 ,  活性化 ,  セルラニューラルネットワーク ,  学習