文献

J-GLOBAL ID：202002287293529457   整理番号：20A2282537

KTAN:知識移転敵対ネットワーク【JST・京大機械翻訳】

KTAN: Knowledge Transfer Adversarial Network

著者 (5件)： Liu Peiye (Beijing University of Posts and Telecommunications,Beijing,China) ,  Liu Wu (JD AI Research,Beijing,China) ,  Ma Huadong (Beijing University of Posts and Telecommunications,Beijing,China) ,  Jiang Zhewei (Columbia University,New York,US) ,  Seok Mingoo (Columbia University,New York,US)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2020  号： IJCNN  ページ： 1-7  発行年： 2020年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 知識蒸留は,軽量の学生ネットワークへの大きな教師深いネットワークの一般化能力を転送するために先駆けられた。学生ネットワークは,教師ネットワークの高品質を保持できるが,低計算量とストレージ要求を示し,これは,資源制約モバイルデバイス上に深い畳み込みニューラルネットワークを展開するのに魅力的である。しかしながら,既存の方法の大部分は,教師ネットワークにおけるソフトマックス層の確率分布の転送に焦点を合わせ,中間表現を無視する。しかし,中間表現は,確率分布のみと比較して,移動一般化をより良く理解するために,学生ネットワークにとって極めて重要であることを見出した。そこで本論文では,教師ネットワークの中間表現と確率分布の両者を全体的に考慮する,そのような知識転送広告ネットワーク法を提案した。中間表現の知識を転送するために,著者らは,この方式が学生特徴マップを訓練する目標として,高レベル教師特徴マップをセットした。さらに,学生ネットワークの様々な構造をサポートするために,新しい教師-ツー-スチューデント層を配置した。最後に,提案方法は敵対学習プロセスを採用した。特に,学生ネットワークの訓練過程中の特徴マップの空間相関を完全に利用するための識別器ネットワークを含む。実験結果は,提案方法が2つの重要な視覚タスク,画像分類と物体検出に関して,学生ネットワークの性能を著しく改良することができることを示した。Copyright 2020 The Institute of Electrical and Electronics Engineers, Inc. All rights reserved. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： 視覚 ,  弁別器 ,  広告 ,  ネットワーク法 ,  *ネットワーク ,  蒸留 ,  確率分布 ,  計算量
準シソーラス用語： 画像分類 ,  物体検出 ,  特徴マップ ,  ストレージ装置 ,  畳込みニューラルネットワーク , 【Automatic Indexing@JST】

分類 (1件)： 図形・画像処理一般  (JE04010I)

タイトルに関連する用語 (2件)： 知識移転 ,  敵対