直線性のない良性オーバーフィッティング:雑音線形データのための勾配降下により訓練されたニューラルネットワーク分類器【JST・京大機械翻訳】

Frei Spencer; Chatterji Niladri S.; Bartlett Peter L.

プレプリント

J-GLOBAL ID：202202207171956038 整理番号：22P0288540

直線性のない良性オーバーフィッティング:雑音線形データのための勾配降下により訓練されたニューラルネットワーク分類器【JST・京大機械翻訳】

Benign Overfitting without Linearity: Neural Network Classifiers Trained by Gradient Descent for Noisy Linear Data

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月11日プレプリントサーバーでの情報更新日： 2023年09月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

雑音のあるデータの存在下で,補間モデルがよく一般化する現象が,勾配降下で訓練されたニューラルネットワークモデルで最初に観察された。この経験的観察をより良く理解するために,ランダム初期化に続くロジスティック損失の勾配降下による補間に訓練された2層ニューラルネットワークの一般化誤差を考察した。このデータは,よく分離されたクラス条件付対数-凹形分布から来ており,訓練ラベルの一定割合が敵対によって崩壊されることを想定する。この設定において,ニューラルネットワークは良性のオーバーフィッティングを示し,それらはゼロ訓練誤差に駆動され,雑音のある訓練ラベルを完全にフィッティングし,同時にミニマックス最適試験誤差を達成することを示した。線形またはカーネルベースの予測子を必要とする良性過剰適合に関する以前の研究とは対照的に,著者らの解析は,モデルと学習動力学の両方が基本的に非線形である設定において成立する。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , 【Automatic Indexing@JST】

ニューロコンピュータ , その他の情報処理

, , , , , , , ,

前のページに戻る