ADWPNAS:ニューラルアーキテクチャ探索のためのアーキテクチャ駆動重み予測【JST・京大機械翻訳】

XuZhang; ChenjunZhou; BoGu

プレプリント

J-GLOBAL ID：202202207147381644 整理番号：22P0118644

ADWPNAS:ニューラルアーキテクチャ探索のためのアーキテクチャ駆動重み予測【JST・京大機械翻訳】

ADWPNAS: Architecture-Driven Weight Prediction for Neural Architecture Search

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年03月03日プレプリントサーバーでの情報更新日： 2020年03月03日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

迅速かつ正確にモデルの真の強度を発見し評価する方法は,神経アーキテクチャ検索(NAS)における重要課題の1つである。この問題に対処するために,ニューラルアーキテクチャ探索(NAS)のためのアーキテクチャ駆動重み予測(ADWP)アプローチを提案した。本アプローチでは,まずアーキテクチャ集約型探索空間を設計し,次に確率的符号化アーキテクチャパラメータを入力することによりHyperNetworkを訓練する。訓練されたHyperNetworkにおいて,畳み込みカーネルの重みは,探索空間における神経アーキテクチャのためによく予測することができる。その結果,ターゲットアーキテクチャは微調整なしに効率的に評価でき,従って,一般的ネットワーク(マクロ探索)の最適アーキテクチャを探索できる。実際の実験を通して,提案したAD-WPNASによって発見されたモデルの性能を評価し,その結果,1つの探索手順がCIFAR-10上で4.0GPU時間で完了できることを示した。さらに,発見されたモデルは,最良の既存モデルより優れている1.52Mのパラメータで2.41%の試験誤差を得た。【JST・京大機械翻訳】

, , , ,
, , 【Automatic Indexing@JST】

ニューロコンピュータ , 人工知能

, ,

前のページに戻る