CNN LEGO:畳込みニューラルネットワークの分解と組立【JST・京大機械翻訳】

Hu Jiacong; Gao Jing; Feng Zunlei; Cheng Lechao; Lei Jie; Bao Hujun; Song Mingli

プレプリント

J-GLOBAL ID：202202206507193210 整理番号：22P0310103

CNN LEGO:畳込みニューラルネットワークの分解と組立【JST・京大機械翻訳】

CNN LEGO: Disassembling and Assembling Convolutional Neural Network

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年03月25日プレプリントサーバーでの情報更新日： 2022年03月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

人間の視覚知覚機構を模倣する畳込みニューラルネットワーク(CNN)は多くのコンピュータビジョン分野でうまく使用されている。いくつかの心理物理的研究は,視覚知覚機構が,初期段階[7,20]で,形態,色,運動,深さなどを同時にプロセスし,最終的に最終認識[38]のためのすべての情報を統合することを示す。さらに,人間の視覚システム[20]は,異なる分割または異なるタスクを含む。上記の視覚知覚機構に触発されて,著者らは,深いモデルを独立部分に分解して,LEGOy具を演ずるような性能コストなしで新しい深いモデルにそれらの部分を組み立てることができる,モデル解体と集合(MDA-Task)と呼ばれる新しいタスクを研究する。この目的のために,本論文ではCNN分類器を解体するための特徴経路属性技術(FRAT)を提案した。FRATにおいて,予測クラス確率w.r.t.の特徴マップの正導関数を採用して,各層における臨界特徴を位置決めした。次に,2つの隣接パラメータ層間の経路を橋渡しするために,臨界特性と先行/連続パラメータ層の間の関連性解析を採用した。組立フェーズでは,各層のクラスワイズ成分を,特定のタスクのための新しい深いモデルに組立てた。大規模な実験は,集合したCNN分類器が,どんな微調整なしでも元の分類器で,1つのエポック微調整で過剰なオリジナルの性能を達成することができることを証明した。さらに,著者らは,モデル決定経路可視化,モデル圧縮,知識蒸留,移動学習,増分学習などに関するMDA-Taskの広い応用を検証するために,大規模実験も実施した。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

パターン認識 , 人工知能 , ニューロコンピュータ

, , ,

前のページに戻る