リメンバの学習によるオンラインニューラル更新ルールの発見【JST・京大機械翻訳】

Gregor Karol

プレプリント

J-GLOBAL ID：202202208348078628 整理番号：22P0120139

リメンバの学習によるオンラインニューラル更新ルールの発見【JST・京大機械翻訳】

Finding online neural update rules by learning to remember

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (1件)：
資料名：
発行年： 2020年03月06日プレプリントサーバーでの情報更新日： 2020年03月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

スクラッチからの神経活性化(ボディ)と重み(シナプス)に対するオンライン局所更新ルールの学習を研究した。小さなベクトルによる各重みと活性化の状態を表し,(メタ)ニューラルネットワークを用いてそれらの更新をパラメータ化する。異なるニューロンタイプは,すべてのニューロンのために同じ2つの機能を使用することができる異なる埋込みベクトルによって表される。進化または長期バックプロパゲーションを用いた目的のための訓練の代りに,通常,類似システムで行われるように,著者らは,異なる目的を動機づけ,研究し,経験の過去のスニペットを記憶する。著者らは,この目的が標準逆伝搬訓練および他の学習形式に関連する方法を説明する。短期逆伝搬を用いてこの目的を訓練し,異なるネットワークタイプと問題の困難さの両方の関数として性能を解析した。著者らは,この解析が学習ルールを構成することに関する興味深い洞察を与えることを見出した。また,そのようなシステムが,エピソード記憶,メタ学習,および補助目的のような話題に取り組むための自然の基質をいかに形成できるかについて議論する。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

脳・神経系モデル , 人工知能 , ニューロコンピュータ

, , ,

前のページに戻る