大学のアンサンブル【JST・京大機械翻訳】

Littwin Etai; Myara Ben; Sabah Sima; Susskind Joshua; Zhai Shuangfei; Golan Oren

プレプリント

J-GLOBAL ID：202202215101194249 整理番号：22P0158860

大学のアンサンブル【JST・京大機械翻訳】

Collegial Ensembles

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2020年06月13日プレプリントサーバーでの情報更新日： 2020年06月17日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

現代のニューラルネットワーク性能は,モデルサイズが増加するにつれて典型的に改善される。過パラメータ化ネットワークのニューラルタンジェントカーネル(NTK)に関する研究の最近のラインは,サイズ増加による改良がより良い条件付損失景観の製品であることを示した。本研究では,単一モデルとして訓練された同一アーキテクチャを持つ多重独立モデルの集約として,共egi集合(CE)を定義する,アンサンブルを通して達成された過剰パラメータ化の形式を調べた。著者らは,アンサンブルにおけるモデル数が大きいとき,CEの最適化動力学が劇的に単純化され,広いモデルの動力学に似ているが,まだはるかに有利であることを示した。NTKの有限幅補正に関する最近の理論的結果を用いて,有限幅CEの空間で効率的なアーキテクチャ探索を行い,容量を最小化するか,または制約集合の下で訓練性を最大化することを目指した。得られたアンサンブルは,グループ畳込みとブロック対角層を用いて,実際のアーキテクチャに効率的に実装できる。最後に,このフレームワークを用いて,単一モデルを訓練することなく,高価なグリッド探索を用いて最初に発見された最適グループ畳込みモジュールを解析的に導出できることを示した。【JST・京大機械翻訳】

, , , , , , , , , , , ,

ニューロコンピュータ , 人工知能

前のページに戻る