Art

J-GLOBAL ID：201902258583991870   Reference number：19A1742380

Impact of Layer Normalization on Single-Layer Perceptron - Statistical Mechanical Analysis

単層パーセプトロンに対する層正規化の影響-統計力学による分析

Author (3)： TAKAGI Shiro (Univ. Tokyo, Chiba, JPN) ,  YOSHIDA Yuki (Univ. Tokyo, Chiba, JPN) ,  OKADA Masato (Univ. Tokyo, Chiba, JPN)
Material： Journal of the Physical Society of Japan  (JPSJ)
Volume： 88  Issue： 7  Page： 074003.1-074003.6  Publication year： Jul. 15, 2019 
JST Material Number： G0509A  ISSN： 0031-9015  CODEN： JUPSA  Document type： Article
Article type： 原著論文  Country of issue： Japan (JPN)  Language： ENGLISH (EN)

Thesaurus term： *perceptron ,  normalization ,  adaptive training ,  *neural network(biomodel) ,  supervised learning ,  multilayer perceptron ,  velocity ,  order parameter ,  differential equation ,  robustness
Semi thesaurus term： learning rate ,  training

JST classification (1)： Graphic and image processing in general  (JE04010I)

Reference (14)：

• I. Goodfellow, Y. Bengio, and A. Courville, Deep Learning (MIT Press, Cambridge, MA, 2016) p. 279.
• S. Ioffe and C. Szegedy, ICML, 2015, p. 448.
• T. Salimans and D. P. Kingma, NIPS, 2016, p. 901.
• D. Ulyanov, A. Vedaldi, and V. S. Lempitsky, arXiv:1607.08022 (2016).
• Y. Wu and K. He, arXiv:1803.08494 (2018).

Terms in the title (6)： 単層 ,  パーセプトロン ,  層 ,  正規化 ,  統計力学 ,  分析