文献

J-GLOBAL ID：202002272700565124   整理番号：20A0624913

関数推定の理論に基づく深層学習の原理解析

著者 (1件)： 今泉允聡 (統計数理研)
資料名： 統計数理  (Proceedings of the Institute of Statistical Mathematics)
巻： 67  号： 2  ページ： 394-395  発行年： 2019年12月 
JST資料番号： F0407A  ISSN： 0912-6112  資料種別： 逐次刊行物 (A)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： ・本稿では深層ニューラルネットワーク(DNN)が他手法より良い性能を発揮する原理を,統計理論を用いて解析。
・DNNの相対的優位を説明することは難しいが,本稿はその困難さを解決するためデータが非滑らかな関数から生成されている状況で各手法の汎化誤差評価を実施。
・DNNの最適性では,汎化誤差の収束レートはミニマックスな汎化誤差の収束レートに対数項の影響を除いて一致,DNNによる推定量は理論的な最適性を達成。
・DNNと他手法の比較では,線形推定量のクラスに分類される推定量は最適性を達成しないため,最適性を持つDNNによる推定量を優越できないことを理論的に提示。

シソーラス用語： *機械学習 ,  *ニューラルネットワーク ,  誤差 ,  推定量 ,  ミニマックス法 ,  最小二乗法
準シソーラス用語： 最小二乗 ,  最適性 ,  *深層ニューラルネットワーク ,  *深層学習 ,  汎化誤差

分類 (2件)： 人工知能  (JE08000Z) ,  システム・制御理論一般  (IA02010H)

引用文献 (1件)：

• Imaizumi, M., & Fukumizu, K. (2018). Deep Neural Networks Learn Non-Smooth Functions Effectively. arXiv preprint arXiv:1802.04474.

タイトルに関連する用語 (6件)： 関数 ,  推定 ,  理論 ,  深層学習 ,  原理 ,  解析