ショートカットなしの深層学習:テーラード整流器によるカーネルの形成【JST・京大機械翻訳】

Zhang Guodong; Botev Aleksandar; Martens James

プレプリント

J-GLOBAL ID：202202200268896566 整理番号：22P0304770

ショートカットなしの深層学習:テーラード整流器によるカーネルの形成【JST・京大機械翻訳】

Deep Learning without Shortcuts: Shaping the Kernel with Tailored Rectifiers

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月15日プレプリントサーバーでの情報更新日： 2022年03月15日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

非常に深いニューラルネットワークは,まだ非常に挑戦的なタスクである。一般的な解決策は,ショートカット接続と正規化層を用いることであり,それは,一般的なResNetアーキテクチャにおいて重要な成分である。しかし,ResNetsは真に深いものより浅いネットワークの集合のように振舞うことを示唆する強い証拠がある。最近,深いバニラネットワーク(すなわち,正規化層またはショートカット接続のないネットワーク)が,それらの活性化関数に特定の変換を適用することにより,ResNetとして高速に訓練できることを示した。しかし,この方法(ディープカーネルShapingと呼ばれる)はReLUと完全に互換性がなく,ImageNet上でResNetよりも著しく過剰に適合するネットワークを生成する。本研究では,ReLU-Leaky ReLUの変異体と完全に互換性のある新しいタイプの変換を開発することにより,この状況を修正した。著者らは,無視できる余分の計算コストを導入する著者らの方法が,ResNet(同じ幅/深さの)と競合する深いバニラネットワークによる検証精度を達成し,Chaos(EOC)法のEdgeで得られたものより著しく高いことを示した。そして,EOCとは違って,著者らが得た検証精度は,深さによってより悪くなかった。【JST・京大機械翻訳】

, , , , , , , ,
, , , 【Automatic Indexing@JST】

遺伝子発現 , パターン認識 , 人工知能

, , ,

前のページに戻る