文献

J-GLOBAL ID：201602240900018432   整理番号：16A1209584

訓練可能な活性化関数を用いた深い神経回路網【Powered by NICT】

Deep neural network using trainable activation functions

著者 (3件)： Hoon Chung (Electronics and Telecommunications Research Institute, Daejeon, Korea) ,  Sung Joo Lee (Electronics and Telecommunications Research Institute, Daejeon, Korea) ,  Jeon Gue Park (Electronics and Telecommunications Research Institute, Daejeon, Korea)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2016  号： IJCNN  ページ： 348-352  発行年： 2016年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 深層ニューラルネットワーク(DNN)のための訓練可能な活性化関数を提案した。DNNは1つ以上の隠れた非線形層から成るフィードフォワードニューラルネットワークである。重み行列,バイアスベクトル,非線形活性化関数の集合により特徴付けされる。モデルパラメータ訓練では,重み行列とバイアスベクトルを誤差逆伝搬アルゴリズムを用いて更新されるが,活性化関数ではない。を経験的に固定されている。多く整流型非線形関数を活性化関数として提案されているが,与えられたタスクドメインのための最良の非線形機能は不明のままである。問題を解決するために,著者らは訓練可能な活性化関数を提案した。提案手法では,従来の非線形活性化関数をTaylor級数の近似し,係数は他のパラメータと同時に再訓練した。提案した手法の有効性を,MNIST手書き数字認識ドメインを評価した。Copyright 2016 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： *神経回路網 ,  深層 ,  ニューラルネットワーク
準シソーラス用語： 手書き数字認識 ,  Taylor級数 ,  非線形関数 ,  逆伝搬アルゴリズム ,  モデルパラメータ ,  フィードフォワードニューラルネットワーク ,  *活性化関数 , 【Automatic Indexing@JST】

分類 (1件)： パターン認識  (JE07000S)

タイトルに関連する用語 (3件)： 訓練 ,  活性化関数 ,  神経回路網