文献

J-GLOBAL ID：201802271344649723   整理番号：18A1415751

自然勾配近似法を起点としたバッチ正規化の数理的理解

Mathematical Understanding of Batch Normalization as Approximation of Natural Gradient

著者 (1件)： 木脇太一 (東大)
資料名： 人工知能学会全国大会論文集(CD-ROM)  (人工知能学会全国大会(CD-ROM))
巻： 31st  ページ： ROMBUNNO.1A2-OS-05b-4  発行年： 2017年 
JST資料番号： X0580B  ISSN： 1347-9881  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： バッチ正規化(BN)と呼ばれる最適化手法はNeural Networkの学習効率を劇的に向上させるため大きく着目されている。定性的な議論および実験的な観測から,BNは自然勾配法(NG)との関係性が指摘されているが,厳密な数理的原理は不明である。本研究ではNatual Neural Networkと呼ばれるNGの実現方法とBNの類似性に着目し,BNがどの様にNGを近似しているのかを数理的に議論する。(著者抄録)

シソーラス用語： *近似法 ,  *数学的性質 ,  *傾斜法 ,  最適化手法 ,  *ニューラルネットワーク ,  効率 ,  評価試験
準シソーラス用語： 学習効率 ,  自然勾配法

分類 (4件)： 数値計算  (JE02000J) ,  システム・制御理論一般  (IA02010H) ,  その他のオペレーションズリサーチの手法  (KA03070E) ,  ニューロコンピュータ  (JC06010Q)

タイトルに関連する用語 (5件)： 近似法 ,  起点 ,  バッチ ,  正規化 ,  理解