オンライン連続学習における突然表現変化の低減に関する新しい洞察【JST・京大機械翻訳】

Caccia Lucas; Aljundi Rahaf; Asadi Nader; Tuytelaars Tinne; Pineau Joelle; Belilovsky Eugene

プレプリント

J-GLOBAL ID：202202206334422218 整理番号：22P0300448

オンライン連続学習における突然表現変化の低減に関する新しい洞察【JST・京大機械翻訳】

New Insights on Reducing Abrupt Representation Change in Online Continual Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年03月07日プレプリントサーバーでの情報更新日： 2022年04月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

オンライン連続学習パラダイムにおいて,エージェントは記憶と計算制約を尊重しながら変化する分布から学習しなければならない。過去データの小さな部分集合が保存され,新しいデータと一緒に再生される経験再生(ER)は,簡単で効果的な学習戦略として浮上している。本研究では,以前に観測されないクラスが入力データストリームに現れるときに起こる観測データの表現における変化に焦点を当て,新しいクラスを以前のものと区別しなければならない。ERの適用が,以前のクラスと著しく重複する新しい追加クラス表現を引き起こし,高度に破壊的なパラメータ更新を導くことにより,この疑問に新しい光を投げかける。この経験的解析に基づいて,新しいクラスを収容するために,学習された表現を劇的な適応から遮蔽することにより,この問題を緩和する新しい方法を提案した。非対称更新ルールを用いて,新しいクラスを古いもの(逆よりも)に適応させ,特にタスク境界においてより効果的であり,そこでは多くの忘却が典型的に起こることを示した。経験的結果は,標準連続学習ベンチマークに関する強いベースラインに関する有意な利得を示した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る