カーネルリッジ回帰に対するスペクトルバイアス予測の失敗と成功:低次元データの場合【JST・京大機械翻訳】

Tomasini Umberto M.; Sclocchi Antonio; Wyart Matthieu

プレプリント

J-GLOBAL ID：202202213319050068 整理番号：22P0285960

カーネルリッジ回帰に対するスペクトルバイアス予測の失敗と成功:低次元データの場合【JST・京大機械翻訳】

Failure and success of the spectral bias prediction for Kernel Ridge Regression: the case of low-dimensional data

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月07日プレプリントサーバーでの情報更新日： 2022年02月16日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

最近,レプリカ法を含むいくつかの理論は,カーネル海嶺回帰の一般化誤差の予測をした。いくつかの領域では,この方法は,カーネルの固有基底上の真の関数f ̄*を分解すること,すなわち,Pが訓練集合のサイズである,O(P)最大固有値に関連する係数に良く適合する,という事を予測した。この予測は,画像のようなベンチマークデータセット上で非常に良く機能するが,これらのアプローチがデータになされる仮定は実際には満たされていない。スペクトルバイアス予測が成り立つとき,厳密な結果が得られる一次元モデルに焦点を当て,次に,より高い次元で著者らの発見を一般化し試験するためにスケーリング議論を使用する。著者らの予測は,決定境界p(x) x_1 ̄χで消滅するデータ分布を伴う分類ケースf(x)=サイン(x_1)を含む。Δλ_0とLaplaceカーネルに対して,(i)交差リッジλ ̄*_d,χ(P)|ΔP ̄-1/d+χ,すなわち,π ̄* ̄*_d,χ(P),レプリカ法を適用し,一方,リッジ無しの場合では,スペクトルバイアスは,限界d→∞においてのみ正しい訓練曲線指数を予測することを見出した,という事を見出した,(i)π ̄* ̄*_d,χ(P),(ii)は,R_X ̄*_d,χ(P),(ii)に対して,スペクトルバイアスは,当てはまる,という事を,見出す。”D ̄*_d,χ(P),(P),(ii)は,R_d,χ_d,(P),(ii),は,限界d_d ̄∞において,正しい訓練曲線指数を予測する。【JST・京大機械翻訳】

, , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能 , システム・制御理論一般 , 数値計算

, , , , , , ,

前のページに戻る