文献

J-GLOBAL ID：202102222074387510   整理番号：21A0064177

Auto-Ensemble:適応学習速度スケジューリングに基づく深層学習モデルエンセンブリング【JST・京大機械翻訳】

Auto-Ensemble: An Adaptive Learning Rate Scheduling Based Deep Learning Model Ensembling

著者 (2件)： Yang Jun (School of Electronic Information and Communications (EIC), Huazhong University of Science and Technology (HUST), Wuhan, China) ,  Wang Fei (School of Electronic Information and Communications (EIC), Huazhong University of Science and Technology (HUST), Wuhan, China)
資料名： IEEE Access  (IEEE Access)
巻： 8  ページ： 217499-217509  発行年： 2020年 
JST資料番号： W2422A  ISSN： 2169-3536  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 深層学習モデルの構築は,新しいシナリオにおける実装を促進するショートカットであり,それは,スクラッチからのニューラルネットワーク,損失および訓練アルゴリズムの調整を避けることができる。しかし,一度訓練を通して十分な正確で多様なモデルを収集することは難しい。本論文では,自動アンサンブル(AE)を提案し,深層学習モデルのチェックポイントを収集し,それらを適応学習速度スケジューリングアルゴリズムにより自動的に集合させた。この方法の利点は,一度訓練における学習速度をスケジューリングすることによって,モデルを様々な局所最適に収束させることである。局所最適解の数が飽和する傾向があるとき,収集したすべてのチェックポイントをアンサンブルのために使用する。この方法は普遍的であり,様々なシナリオに適用できる。多重データセットとニューラルネットワークに関する実験結果は,特に少数ショット学習において,それが有効で競争力があることを示した。さらに,モデル間の距離を測定する方法を提案した。次に,著者らは収集したモデルの正確さと多様性を確実にすることができた。Copyright 2021 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： *学習 ,  *スケジューリング ,  ニューラルネットワーク ,  粒状材 ,  学習アルゴリズム
準シソーラス用語： *適応学習 ,  学習速度 ,  スケジューリングアルゴリズム ,  局所最適解 ,  スクラッチ ,  *深層学習 , 【Automatic Indexing@JST】

分類 (2件)： パターン認識  (JE07000S) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 適応 ,  学習速度 ,  スケジューリング ,  深層学習