多項式ニューラルネットワークのスペクトルBias【JST・京大機械翻訳】

Choraria Moulik; Dadi Leello Tadesse; Chrysos Grigorios; Mairal Julien; Cevher Volkan

プレプリント

J-GLOBAL ID：202202217324482176 整理番号：22P0296085

多項式ニューラルネットワークのスペクトルBias【JST・京大機械翻訳】

The Spectral Bias of Polynomial Neural Networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年02月27日プレプリントサーバーでの情報更新日： 2022年02月27日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

多項式ニューラルネットワーク(PNN)は,最近,画像生成と顔認識において特に有効であり,そこでは高周波情報が重要である。以前の研究は,ニューラルネットワークが低周波関数に対するスペクトルバイアスを実証し,訓練中の低周波成分の高速学習をもたらすことを明らかにした。このような研究により,PNNのニューラルタンジェントカーネル(NTK)のスペクトル解析を行った。Π-Netファミリー,すなわち最近提案されたPNNのパラメータ化により,より高い周波数の学習が高速化されることを見出した。広範な実験により理論的バイアスを検証した。多項式による乗法的相互作用を組み込むことにより,アーキテクチャと学習フレームワークの設計に新しい洞察を提供することを期待する。【JST・京大機械翻訳】

, , , , , , , , , , , , ,
, 【Automatic Indexing@JST】

人工知能 , パターン認識 , ニューロコンピュータ

, ,

前のページに戻る