文献

J-GLOBAL ID：202202271477408911   整理番号：22A0497089

顕著性:ニューラルアーキテクチャ探索における重要なアーキテクチャの新しい選択基準【JST・京大機械翻訳】

Saliency: a new selection criterion of important architectures in neural architecture search

著者 (4件)： Hao Jie (Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China, Chengdu, China) ,  Cai Zhiling (Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China, Chengdu, China) ,  Li Ruijia (Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China, Chengdu, China) ,  Zhu William (Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China, Chengdu, China)
資料名： Neural Computing & Applications  (Neural Computing & Applications)
巻： 34  号： 2  ページ： 1269-1283  発行年： 2022年 
JST資料番号： W0703A  ISSN： 0941-0643  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： ドイツ (DEU)  言語： 英語 (EN)

抄録/ポイント： ニューラルアーキテクチャ探索(NAS)は,与えられたタスクのための高性能ニューラルネットワークの自動設計において大きな成功を達成した。しかし,初期のNASアプローチは,過度の計算コストの問題がある。最近,勾配ベースのもののようないくつかのNASアプローチが計算コストを大幅に削減した。しかし,勾配ベースの方法は,アーキテクチャ選択における重要指標として対応するアーキテクチャのパラメータ値を簡単に使用するので,アーキテクチャ選択において大きな偏差を持つ。これは,探索空間から選択したアーキテクチャを,一般的に準最適状態に陥る。この問題に取り組むために,最適アーキテクチャの新しい選択基準として,アーキテクチャ顕著性を提案した。具体的には,ニューラルネットワークからこのアーキテクチャを除去することで誘起されたネットワーク損失の二乗変化としてアーキテクチャ顕著性を定義した。この顕著性は,ネットワーク性能に対する候補アーキテクチャの寄与を直接反映する。したがって,提案した選択基準はアーキテクチャ選択の偏差を除去する。さらに,より効果的な実装を得るために,Taylor級数展開でアーキテクチャの顕著性を近似した。大規模な実験は,著者らのアプローチが,複数のデータセットに関する他のNAS手法よりも,さらに優れたモデル評価性能を達成することを示した。Copyright The Author(s), under exclusive licence to Springer-Verlag London Ltd., part of Springer Nature 2021 Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 自動設計 ,  ネットワーク ,  ニューラルネットワーク ,  選択基準 ,  *計算機アーキテクチャ ,  Taylor展開
準シソーラス用語： 探索空間 ,  計算コスト ,  ネットワーク性能 ,  モデル評価 ,  パラメータ値 , 【Automatic Indexing@JST】

著者キーワード (4件)： 神経アーキテクチャ探索 ,  顕著性 ,  選択基準 ,  Taylor展開

分類 (1件)： 人工知能  (JE08000Z)

タイトルに関連する用語 (3件)： 探索 ,  アーキテクチャ ,  選択基準