行列値未知の多層ネットワークにおける推論【JST・京大機械翻訳】

Pandit Parthe; Sahraee-Ardakan Mojtaba; Rangan Sundeep; Schniter Philip; Fletcher Alyson K.

プレプリント

J-GLOBAL ID：202202201862924541 整理番号：22P0104575

行列値未知の多層ネットワークにおける推論【JST・京大機械翻訳】

Inference in Multi-Layer Networks with Matrix-Valued Unknowns

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2020年01月25日プレプリントサーバーでの情報更新日： 2020年01月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

出力の観測から確率的多層ニューラルネットワークの入力と隠れ変数を推論する問題を考察した。各層における隠れ変数をマトリックスとして表現した。この問題は,深層生成事前モデル,マルチタスクおよび混合回帰による信号回復に適用し,2層ニューラルネットワークのある種のクラスを学習する。MAPとMMSE推論の両方のための統一近似アルゴリズムを,マトリックス値未知数を取り扱うために,最近開発したMulti-Layerベクトル近似メッセージパッシング(ML-VAMP)アルゴリズムを拡張することによって提案する。提案したMulti-Layer行列VAMP(ML-Mat-VAMP)アルゴリズムの性能は,あるランダム大システム極限で正確に予測でき,そこでは,未知の量のN×dの次元は,d固定でN→∞として成長する。2層ニューラルネットワーク学習問題において,このスケーリングは,入力特性と訓練サンプルの数が無限に成長する場合に対応するが,隠れノードの数は固定される。解析は,学習のパラメータおよび試験誤差の正確な予測を可能にした。【JST・京大機械翻訳】

, , , , , ,
, , , , , , , , 【Automatic Indexing@JST】

人工知能 , ニューロコンピュータ

, ,

前のページに戻る