抄録/ポイント：
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
本論文は,大きなパラメータnに比例する幅のそれぞれ,L隠れ層と同様に,Gaussランダム重みとバイアスを有する完全接続ニューラルネットワークを考察した。多項式有界非線形に対して,ネットワーク出力とその導関数の共同キュムラントに対して1/nの電力で鋭い推定を与えた。さらに,ネットワークキュムラントは1/nの電力において摂動的に可解な階層を形成し,1つの層におけるk次キュムラントは,j≦kの以前の層におけるj次キュムラント上でのみ1/nの主導次数に依存する再帰性を持つことを示す。しかしながら,そのような再帰性の多様性を解決することにより,深さ対幅比L/nが,個々のニューロンにおける変動のスケールと介在ニューロン相関のサイズの両方を制御する効果的なネットワーク深さの役割を果たすことを見出した。したがって,キュムラント再帰は,1/nのパワーの階層を形成するが,1/n ̄kの次数の寄与は,L ̄kのようにしばしば成長し,従って,正のL/nで無視できない。これを用いて,爆発と消失勾配問題のいくらか単純化されたバージョンを研究し,L/nが大きければ,この特殊なバリアントが生ずることを証明した。本論文では,Daniel Aの最近のモノグラフにおけるリグの物理レベルで,いくつかの重要なアイデアを初めて開発した。Roberts,Sho Yaida,および著者。本論文は,これらのアイデアを数学的に精密にするだけでなく,それらを著しく拡張し,1/nにおける全ての次数への補正を得る方法を開く。【JST・京大機械翻訳】
