文献

J-GLOBAL ID：202002293203767290   整理番号：20A1750839

MTL-NAS:汎用マルチタスク学習に向けたタスク-アグノスティックニューラルアーキテクチャ探索【JST・京大機械翻訳】

MTL-NAS: Task-Agnostic Neural Architecture Search Towards General-Purpose Multi-Task Learning

著者 (6件)： Gao Yuan (Tencent AI Lab) ,  Bai Haoping (Carnegie Mellon University) ,  Jie Zequn (Tencent AI Lab) ,  Ma Jiayi (Wuhan University) ,  Jia Kui (South China University of Technology) ,  Liu Wei (Tencent AI Lab)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2020  号： CVPR  ページ： 11540-11549  発行年： 2020年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 汎用マルチタスク学習(GP-MTL)にニューラルアーキテクチャ探索(NAS)を組み込むことを提案した。既存のNAS法は,異なるタスクに従って異なる探索空間を典型的に定義する。異なるタスク組合せ(即ち,タスクセット)に順応するために,GP-MTLネットワークを単一タスクバックボーン(最適にタスク事前の符号化)に解き,階層的で階層的な特徴共有/融合スキームをそれら全体に分割する。これにより,交差タスクエッジ(すなわち,特徴融合接続)を固定単一タスクネットワークバックボーンに挿入する,新規で一般的なタスク診断探索空間の設計が可能になった。さらに,検索アーキテクチャと最終評価アーキテクチャ間の性能ギャップを閉じる新しい単一ショット勾配ベース探索アルゴリズムを提案した。これは探索フェーズ中のアーキテクチャ重みに関する最小エントロピー正則化により実現され,アーキテクチャ重みは近離散値に収束するため,単一モデルを達成する。結果として,著者らの検索モデルは,スクラッチから(再)訓練なしで評価に直接使用できる。種々のタスク集合上で異なる単一タスクバックボーンを用いて広範な実験を行い,階層的および層別特徴,ならびに,異なるi)タスクセットおよびii)単一タスクバックボーンへの望ましい一般化可能性を利用して得られた有望な性能を示した。本論文のコードはhttps://github.com/bhpfelix/MTLNASで利用可能である。Copyright 2020 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： エントロピー ,  ネットワーク ,  層別 ,  粒状材 ,  正則化 ,  *計算機アーキテクチャ
準シソーラス用語： 探索空間 ,  探索アルゴリズム ,  *マルチタスク学習 ,  スクラッチ , 【Automatic Indexing@JST】

分類 (1件)： 図形・画像処理一般  (JE04010I)

タイトルに関連する用語 (5件)： NAS ,  汎用 ,  マルチタスク学習 ,  タスク ,  探索