深層Gauss過程による深い三角ネットワークの接続について:共分散,表現性およびニューラル接線カーネル【JST・京大機械翻訳】

Lu Chi-Ken; Shafto Patrick

プレプリント

J-GLOBAL ID：202202209195985430 整理番号：22P0304061

深層Gauss過程による深い三角ネットワークの接続について:共分散,表現性およびニューラル接線カーネル【JST・京大機械翻訳】

On Connecting Deep Trigonometric Networks with Deep Gaussian Processes: Covariance, Expressivity, and Neural Tangent Kernel

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年03月14日プレプリントサーバーでの情報更新日： 2022年07月30日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

Bayes学習の前のモデルとしての深いGaussプロセス(DGP)は,関数構成における表現力を直感的に活用する。DGPsは多様なモデリング能力も提供するが,潜在関数空間における限界化は扱いにくいため,推論は挑戦的である。Bochnerの定理を用いて,二乗指数カーネルを有するDGPを,ランダム特徴層,正弦および余弦活性化ユニットおよびランダム重み層から成る深い三角ネットワークとして見ることができた。ボトルネックを持つ広い極限において,重み空間ビューは関数空間で以前に得られた同じ有効共分散関数を生成することを示した。また,ネットワークパラメータ上の事前分布を変えることは,異なるカーネルの採用と等価である。そのように,DGPsは,正確な最大事後推定が得られる,深いボトルネックトリッグネットワークに翻訳できる。興味深いことに,ネットワーク表現はDGPの神経正接カーネルの研究を可能にし,それはまた,難治性予測分布の平均を明らかにするかもしれない。統計的に,浅いネットワークとは異なり,有限幅の深いネットワークは,制限カーネルから逸脱する共分散を持ち,内部および外部幅は,特徴学習において異なる役割を果たす可能性がある。数値シミュレーションは,著者らの知見を支持するために存在する。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能

, , , , , ,

前のページに戻る