文献

J-GLOBAL ID：202202247463626952   整理番号：22A0287808

破局的忘却を排除するための改良二重チャネルネットワーク【JST・京大機械翻訳】

An Improved Dual-Channel Network to Eliminate Catastrophic Forgetting

著者 (4件)： Liu Dongbo (College of Computer Science, State Key Laboratory of Hydraulics and Mountain River Engineering, Sichuan University, Chengdu, China) ,  He Zhenan (College of Computer Science, State Key Laboratory of Hydraulics and Mountain River Engineering, Sichuan University, Chengdu, China) ,  Chen Dongdong (Department of School of Engineering, University of Edinburgh, Edinburgh, U.K.) ,  Lv Jiancheng (College of Computer Science, State Key Laboratory of Hydraulics and Mountain River Engineering, Sichuan University, Chengdu, China)
資料名： IEEE Transactions on Systems, Man, and Cybernetics: Systems  (IEEE Transactions on Systems, Man, and Cybernetics: Systems)
巻： 52  号： 1  ページ： 415-425  発行年： 2022年 
JST資料番号： C0425D  ISSN： 2168-2216  CODEN： ITSMFE  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： カタストロフィー忘却は,深層ニューラルネットワークのオンライン訓練プロセスの間の慢性問題である。即ち,既存のニューラルネットワークを訓練するために新しいデータセットを使用すると,ネットワークは元のデータセットを認識する能力を失う。文献では,生成的再生(GR)によるオンラインコントラスト発散(CD)は,オンライン訓練を容易にするためのニューラルネットワークの生成能力を利用する。それは,壊滅的忘却を大いに軽減するが,それを完全には除去できない。この短所を克服し,さらに挑戦的な課題を解決するため,本論文では,二重チャネルGRを有するオンラインCDが,破滅的忘却のさらなる除去に重要な役割を果たす,非同期デュアルチャネルオンライン制限Boltzmannマシンという新しいアプローチを提案した。Markov連鎖サンプリングとネットワーク計算を,別々の計算ノード上で非同期的に行う非同期勾配推定を,訓練をスピードアップするために設計した。実験結果は,提案方法が訓練速度の増加および破滅的忘却の最小化においていくつかのアルゴリズムより優れていることを示した。さらに,デュアルチャネルによるオンライン学習は,GRを有する他のオンライン学習ニューラルネットワークに効果的に拡張することができ,著者らの検証実験で優れた結果を達成した。Copyright 2022 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： アルゴリズム ,  学習 ,  *ネットワーク ,  実験 ,  ニューラルネットワーク ,  改良 ,  Markov連鎖 ,  カタストロフィー理論 ,  Boltzmannマシン
準シソーラス用語： オンライン学習 ,  検証実験 ,  オンライン ,  オンライン訓練 ,  デュアルチャネル ,  勾配推定 ,  ディープニューラルネットワーク , 【Automatic Indexing@JST】

分類 (2件)： 人工知能  (JE08000Z) ,  その他の情報処理  (JE15050M)

タイトルに関連する用語 (3件)： 忘却 ,  排除 ,  二重チャネル