LASSO人工ニューラルネットワークによる非線形ヘイスタックにおけるニードル発見のための相転移【JST・京大機械翻訳】

Ma Xiaoyu; Sardy Sylvain; Hengartner Nick; Bobenko Nikolai; Lin Yen Ting

プレプリント

J-GLOBAL ID：202202202967350180 整理番号：22P0277812

LASSO人工ニューラルネットワークによる非線形ヘイスタックにおけるニードル発見のための相転移【JST・京大機械翻訳】

A phase transition for finding needles in nonlinear haystacks with LASSO artificial neural networks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年01月21日プレプリントサーバーでの情報更新日： 2022年01月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

スパース線形結合に適合するために,単一ハイパーパラメータによるペナルティを誘発するLASSOスパース性により,サンプルサイズが入力ベクトル(hayスタック)の次元より小さい場合でも,ある領域において高い確率で重要な特徴(ニードル)を回復できる。人工ニューラルネットワーク(ANN)として知られるより最近学習した学習者は,多くの機械学習タスクにおいて,特に非線形関連を適合させることで大きな成功を示した。小さな学習速度,確率的勾配降下アルゴリズム,および大規模訓練集合は,深いニューラルネットワークに存在するパラメータの数における爆発に対処するのを助ける。しかし,ANN学習者はほとんど開発されておらず,非線形乾草スタックの針を見つけるため研究されている。単一ハイパーパラメータによる駆動により,スパース線形結合のようなANN学習者は,針を検索する確率において相転移を示し,他のANN学習者では観測されない。ペナルティパラメータを選択するために,保存的(多くの誤検出)と高価な交差検証法よりも良いルールであるDonohoとJohnstone(1994)の普遍的閾値を一般化した。シミュレーテッドアニーリングのスピリッツにおいて,著者らは,高次元,非凸型および非微分可能最適化問題を解くために,暖かい始動スパース性誘導アルゴリズムを提案した。このアプローチの有効性を示すために,正確なモンテカルロシミュレーションを行った。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能

, , , ,

前のページに戻る