連続正規化:オンライン連続学習のためのバッチ正規化の再考【JST・京大機械翻訳】

Pham Quang; Liu Chenghao; Hoi Steven

プレプリント

J-GLOBAL ID：202202200080111960 整理番号：22P0322323

連続正規化:オンライン連続学習のためのバッチ正規化の再考【JST・京大機械翻訳】

Continual Normalization: Rethinking Batch Normalization for Online Continual Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月30日プレプリントサーバーでの情報更新日： 2022年03月30日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

既存の連続学習法は,訓練を促進し,タスクの一般化を改善するために,バッチ正規化(BN)を使用する。しかし,連続学習データの非i.i.dおよび非定常性,特にオンライン設定において,BNにおける訓練と試験の間の不一致を増幅し,高齢タスクの性能を妨げる。本研究では,BNが現在のタスクに対して偏ったモーメントを用いてテストデータを正規化するオンライン連続学習におけるBNの交差タスク正規化効果を研究し,より高い破滅的忘却をもたらした。この限界は,そのマイナス効果を緩和すると同時に,BNと類似の訓練を容易にするために,連続正規化(CN)と呼ぶ簡単で効果的な方法を提案する。異なる連続学習アルゴリズムとオンラインシナリオに関する広範な実験は,CNがBNの直接置換であり,実質的な性能改善を提供できることを示した。著者らの実装は,ウルル{https://github.com/phquang/Continual Normalization}で利用可能である。【JST・京大機械翻訳】

, , , ,
, , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る