MNIST-1Dによる深層学習のスケーリングダウン【JST機械翻訳】

Greydanus Sam; Kobak Dmitry

プレプリント

J-GLOBAL ID：202202206362713988 整理番号：22P0213488

MNIST-1Dによる深層学習のスケーリングダウン【JST機械翻訳】

Scaling Down Deep Learning with MNIST-1D

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2020年11月29日プレプリントサーバーでの情報更新日： 2024年06月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

商業および政治的関連性に関して深層学習モデルが取り上げられているが,その訓練および運用に関する主要な側面については十分に理解されていない。これは,大量の時間,金,および電気を必要とする多くの深層学習プロジェクトの科学に興味を呼び起こした。しかし,この研究のどれくらいが本当にスケールで発生する必要があるか?本論文では,MNIST-1D:古典的深層学習ベンチマークに対するミニマリスト,手続き生成,低メモリ,低計算代替案を提案した。MNIST-1Dの次元は40だけであり,そのデフォルト訓練集合サイズは4000だけであるが,MNIST-1Dは,種々の深いアーキテクチャの誘導バイアスを研究して,宝くじ切符を発見して,深い二重降下を観察して,活性化関数を調整して,自己監督学習におけるギロチン正則化を実証するために使用することができた。これらのすべての実験はGPU上で,またはCPU上でも数分以内に行われることができ,高速プロトタイピング,教育的使用例,および低予算での最先端の研究を可能にする。【JST機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る