文献

J-GLOBAL ID：202102269998821190   整理番号：21A1584385

破局的忘却を緩和するためのネットワークモジュール性の強化【JST・京大機械翻訳】

Enhancing network modularity to mitigate catastrophic forgetting

著者 (2件)： Chen Lu (Department of Information and Human Science, Kyoto Institute of Technology, Kyoto, Japan) ,  Murata Masayuki (Department of Information Science and Technology, Osaka University, Osaka, Japan)
資料名： Applied Network Science (Web)  (Applied Network Science (Web))
巻： 5  号： 1  ページ： 1-24  発行年： 2020年 
JST資料番号： U8204A  ISSN： 2364-8228  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： イギリス (GBR)  言語： 英語 (EN)

抄録/ポイント： 新しいスキルを学習するために以前に獲得したスキルを符号化するために,学習アルゴリズムが変化する接続を学習するとき,カタストロフィーの忘却が発生する。最近,ニューラルネットワークのためのモジュールアプローチは,学習問題が,物理的に異なるネットワークモジュールに機能を分離することにより,学習干渉を直感的に減らすべきであるので,学習問題として,必要とされた。しかし,エキスパート設計と試行錯誤を含むので,アルゴリズムアプローチは実際には難しい。Kashtanらは,モジュール方式で変化する環境下の進化がモジュールネットワーク構造の自発的発展を導くことを見出した。本論文では,現実的なデータにも適用できるように,壊滅的忘却を緩和することができる高度にモジュール構造を得るために,モジュール的に変化する目標(MVG)の逆問題を解くことを目指した。最初に,現実的なデータセットに対してMVGを適用することにより,高モジュール構造の配置が存在することを確認し,このニューラルネットワークが壊滅的忘却を緩和することができることを確認した。次に,著者らは逆問題を解決して,著者らは,壊滅的忘却を緩和することができる高モジュール構造を得ることができる方法を提案した。MVG取得ニューラルネットワークは,モジュール間要素を比較的可変に維持しながら,モジュール内要素を比較的に維持することができるので,モジュール間重み要素を制限する方法を提案して,それらがモジュール内のものに対して相対的に可変であるようにした。その結果,得られたニューラルネットワークは,高度にモジュール構造を持ち,この方法なしの場合よりも,非学習目標を迅速に学習できる。Please refer to the publisher for the copyright holders. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： アルゴリズム ,  干渉 ,  学習 ,  *ネットワーク ,  ニューラルネットワーク ,  ネットワーク構造 ,  モジュール構造 ,  逆問題 ,  カタストロフィー理論 ,  学習アルゴリズム
準シソーラス用語： 学習目標 , 【Automatic Indexing@JST】

分類 (2件)： 人工知能  (JE08000Z) ,  ニューロコンピュータ  (JC06010Q)

引用文献 (21件)：

• Artif Intell Rev; A review of modularization techniques in artificial neural networks; M Amer, T Maul; 52; 1; 2019; 527-561; 10.1007/s10462-019-09706-7; citation_id=CR1
• J Stat Mech Theory Exp; Fast unfolding of communities in large networks; VD Blondel, J-L Guillaume, R Lambiotte, E Lefebvre; 2008; 10; 2008; 10008; 10.1088/1742-5468/2008/10/P10008; citation_id=CR2
• Proc R Soc B Biol Sci; The evolutionary origins of modularity; J Clune, J-B Mouret, H Lipson; 280; 1755; 2013; 20122863; 10.1098/rspb.2012.2863; citation_id=CR3
• Netw Neurosci; Topological reinforcement as a principle of modularity emergence in brain networks; F Damicelli, CC Hilgetag, M-T Hütt, A Messé; 3; 2; 2019; 589-605; 10.1162/netn_a_00085; citation_id=CR4
• PLoS Comput Biol; Neural modularity helps organisms evolve to learn new skills without forgetting old skills; KO Ellefsen, J-B Mouret, J Clune; 11; 4; 2015; 1004128; 10.1371/journal.pcbi.1004128; citation_id=CR5

タイトルに関連する用語 (3件)： 忘却 ,  緩和 ,  強化