勾配ベーストレーニングフリーニューラルアーキテクチャ探索の統一とブースティング【JST・京大機械翻訳】

Shu Yao; Dai Zhongxiang; Wu Zhaoxuan; Low Bryan Kian Hsiang

プレプリント

J-GLOBAL ID：202202207124483083 整理番号：22P0278945

勾配ベーストレーニングフリーニューラルアーキテクチャ探索の統一とブースティング【JST・京大機械翻訳】

Unifying and Boosting Gradient-Based Training-Free Neural Architecture Search

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年01月24日プレプリントサーバーでの情報更新日： 2022年10月12日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ニューラルアーキテクチャ探索(NAS)は,ニューラルアーキテクチャ設計を自動化する能力により,大きな人気を得ている。訓練なしのNASを実現するためには,多くの訓練フリーメトリックが最近提案され,従って,NASをよりスケーラブルにする。それらの競合経験的性能にもかかわらず,これらの訓練フリーメトリックの統一理論的理解は不足している。結果として,(a)これらの計量間の関係は不明瞭であり,(b)それらの経験的性能の理論的解釈はなく,(c)既存の訓練フリーNASにおける未利用の可能性が存在し,これはおそらく統一された理論的理解を通して明らかにできる。この目的のために,本論文では,(a)理論的にそれらの関係,(b)理論的にそれらの一般化性能を保証することを可能とする勾配ベース訓練フリーNASの統一理論解析を提示し,(c)原理的に訓練フリーNASを一貫してブーストするハイブリッドNAS(HNAS)と名付けた新しいフレームワークを開発するための統一理論的理解を利用した。注目すべきことに,HNASは,訓練フリー(すなわち,優れた探索効率)と訓練ベース(すなわち,顕著な探索効率)NASの両方の利点を楽しめることができ,これは,広範な実験を通して実証されている。【JST・京大機械翻訳】

, , , ,
, , , 【Automatic Indexing@JST】

人工知能 , ニューロコンピュータ

, ,

前のページに戻る