文献

J-GLOBAL ID：202202242319828681   整理番号：22A1011916

単純なReLUネットワークにおけるフィッシャー情報行列の近似的な固有値分解

Approximate Eigenvalue Decomposition of Fisher Information Matrix for Simple ReLU Networks

著者 (3件)： TAKEISHI Yoshinari (Kyushu Univ., Fukuoka, JPN) ,  IIDA Masazumi (Kyushu Univ., Fukuoka, JPN) ,  TAKEUCHI Jun’ichi (Kyushu Univ., Fukuoka, JPN)
資料名： 電子情報通信学会技術研究報告(Web)  (IEICE Technical Report (Web))
巻： 121  号： 327(IT2021 28-82)  ページ： 225-230 (WEB ONLY)  発行年： 2022年01月13日 
JST資料番号： U2030A  ISSN： 2432-6380  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

シソーラス用語： *数学的変換 ,  行列 ,  情報量 ,  関数 ,  活性化 ,  正規化 ,  *ニューラルネットワーク ,  機械学習 ,  近似法 ,  固有値 ,  固有ベクトル
準シソーラス用語： Fisher情報行列 ,  *ディープニューラルネットワーク ,  隠れ層 ,  過学習 ,  活性化関数 ,  *固有値分解 ,  深層学習 ,  正規化線形関数

分類 (1件)： 人工知能  (JE08000Z)

引用文献 (11件)：

• S. Amari, “Any Target Function Exists in a Neighborhood of Any Sufficiently Wide Random Network: A Geometrical Perspective,” Neural Computation 32, pp.1431-1447, 2020
• R. Bapat, Nonnegative Matrices and Applications, Cambridge University Press, 1997.
• M. Belkin, D. Hsu, S. Ma, and S. Mandal, “Reconciling modern machine learning practice and the bias-variance trade-off,” In Proc. of the National Academy of Sciences, 116.32, pp. 15849-15854, 2019.
• M. Belkin, D. Hsu, and J. Xu, “Two models of double descent for weak feature,” SIAM Journal on Mathematics of Data Science, 2(4):1167-1180, 2020.
• I. S. Gradshteyn and I.M. Ryzhik, Table of Integrals, Series, and Products, fourth edition, Academic Press, 1980.

タイトルに関連する用語 (3件)： フィッシャー情報行列 ,  近似 ,  固有値分解