文献

J-GLOBAL ID：202202222408833401   整理番号：22A0575796

NAP:枝刈りによるニューラルアーキテクチャ探索【JST・京大機械翻訳】

NAP: Neural architecture search with pruning

著者 (8件)： Ding Yadong (College of Computer Science and Technology, Zhejiang University, Zhejiang 310027, China) ,  Wu Yu (ReLER Lab, Australian Artificial Intelligence Institute, University of Technology Sydney, NSW, Australia) ,  Huang Chengyue (College of Computer Science and Technology, Zhejiang University, Zhejiang 310027, China) ,  Tang Siliang (College of Computer Science and Technology, Zhejiang University, Zhejiang 310027, China) ,  Wu Fei (College of Computer Science and Technology, Zhejiang University, Zhejiang 310027, China) ,  Yang Yi (ReLER Lab, Australian Artificial Intelligence Institute, University of Technology Sydney, NSW, Australia) ,  Zhu Wenwu (Tsinghua National Laboratory for Information Science and Technology, Beijing Key Laboratory of Networked Multimedia, Department of Computer Science and Technology, Tsinghua-Berkeley Shenzhen Institute, Tsing University, Beijing 100084, China) ,  Zhuang Yueting (College of Computer Science and Technology, Zhejiang University, Zhejiang 310027, China)
資料名： Neurocomputing  (Neurocomputing)
巻： 477  ページ： 85-95  発行年： 2022年 
JST資料番号： W0360A  ISSN： 0925-2312  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： オランダ (NLD)  言語： 英語 (EN)

抄録/ポイント： 神経アーキテクチャ検索(NAS)により,連続的に注目されている。その計算効率により,DARTSのような勾配ベースNAS法は,NASタスクに対する最も一般的なフレームワークになった。それにもかかわらず,探索反復として,以前のNASフレームワークにおける導出モデルは,スキップ接続によって支配され,性能低下を引き起こす。本研究では,Pruning(NAP)による神経アーキテクチャ検索と名付けたこの問題を軽減するための新しいアプローチを示した。事前微分可能アーキテクチャ探索作業とは異なり,この手法はネットワーク剪定からアイデアを引き出す。まず,全ての候補演算を含む過パラメータ化ネットワークを訓練した。次に,ネットワークを剪定するための基準を提案した。アーキテクチャ表現の新しく設計した緩和に基づいて,NAPは,全ネットワークトポロジーから自明で冗長なエッジを除去することにより,最も強力なモデルを導くことができる。実験は,提案した方式の有効性を示した。特に,NAPによって検索されたモデルは,CIFAR-10に関して最先端の性能(2.48%試験誤差)を達成した。このモデルをImageNetに転送し,たった5.0Mのパラメータで25.1%の試験誤差を得て,それは最新のNAS方式と同程度である。Copyright 2022 Elsevier B.V., Amsterdam. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 誤差 ,  冗長性 ,  ネットワーク ,  演算 ,  微分 ,  モデル ,  コンピュータビジョン ,  有効性 ,  *計算機アーキテクチャ ,  パラメタリゼーション
準シソーラス用語： 性能劣化 ,  計算効率 ,  ネットワークトポロジー , 【Automatic Indexing@JST】

著者キーワード (3件)： 神経アーキテクチャ探索 ,  ネットワーク pruning定 ,  コンピュータビジョン

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (3件)： NAP ,  枝刈り ,  探索