文献

J-GLOBAL ID：201902286665154302   整理番号：19A2262375

エコーステートネットワークの予測能力に関する活性化関数の影響

Effect of shapes of activation functions on predictability in the echo state network

著者 (3件)： CHANG Hanten (Univ. Tsukuba, Tsukuba, JPN) ,  NAKAOKA Shinji (Hokkaido Univ., JPN) ,  ANDO Hiroyasu (Univ. Tsukuba, Tsukuba, JPN)
資料名： 電子情報通信学会技術研究報告  (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers))
巻： 119  号： 157(CCS2019 17-23)  ページ： 27-30  発行年： 2019年07月25日 
JST資料番号： S0532B  ISSN： 0913-5685  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： Echo State Networkは近年注目を集めているReservoir Computingのモデルの1つであり,入力信号の特徴量を適切に抽出することで,カオス時系列などの複雑な時系列を予測可能である.その特徴量抽出には,入力信号に対してランダム行列による線形変換を行い,加えて活性化関数による非線形変換を適用する.この操作を繰り返し行ったのち,予測のための学習にはリッジ回帰などの線形モデルが用いられる.これらのことから,複雑な時系列を予測するには,モデルの非線形変換を担う活性化関数の性質が重要と考えられる.そこで本研究では,Echo State Networkにおける活性化関数に由来する予測性能を数値的に検討する.カオス時系列予測タスクのシミュレーションの結果,従来用いられているtanh関数よりも,sinc関数,メキシカンハット関数といった複雑な形を有する偶関数の方が予測精度が良い傾向にあることがわかった.(著者抄録)

シソーラス用語： 計算モデル ,  特徴抽出 ,  時系列 ,  *関数 ,  アトラクタ ,  精度 ,  計算量 ,  減少 ,  *活性化関数 ,  予測精度 ,  複雑性低減
準シソーラス用語： エコーステートネットワーク ,  カオス時系列 ,  *貯蔵コンピューティング ,  複雑さ低減

分類 (2件)： 計算機システム開発  (JD02010R) ,  情報工学基礎理論一般  (JB01000T)

引用文献 (5件)：

• Jaeger, H., Haas, H.: Harnessing nonlinearity: Predicting chaotic systems and saving energy in wireless communication. science 304(5667), 78-80 (2004)
• Lukoševičius, M., Jaeger, H.: Reservoir computing approaches to recurrent neural network training. Computer Science Review 3(3), 127-149 (2009)
• Muskulus,M.,Verduyn-Lunel,S.:Wasserstein distances in the analysis of time series and dynamical systems. Physica D: Nonlinear Phenomena 240(1), 45-58 (2011)
• Wang, S., Yang, X.J., Wei, C.J.: Harnessing non-linearity by sigmoid-wavelet hybrid echo state networks (swhesn). In: 2006 6th World Congress on Intelligent Control and Automation. vol. 1, pp. 3014-3018. IEEE (2006)
• Woodward, A., Ikegami, T.: A reservoir computing approach to image classification using coupled echo state and back-propagation neural networks. In: International conference image and vision computing, Auckland, New Zealand.pp. 543-458 (2011)

タイトルに関連する用語 (2件)： 予測能力 ,  活性化関数