クロスレイヤランキングとk-相反最近傍フィルタによる枝刈りネットワーク【JST・京大機械翻訳】

Lin Mingbao; Cao Liujuan; Zhang Yuxin; Shao Ling; Lin Chia-Wen; Ji Rongrong

プレプリント

J-GLOBAL ID：202202212800547506 整理番号：22P0289802

クロスレイヤランキングとk-相反最近傍フィルタによる枝刈りネットワーク【JST・京大機械翻訳】

Pruning Networks with Cross-Layer Ranking & k-Reciprocal Nearest Filters

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年02月14日プレプリントサーバーでの情報更新日： 2022年02月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文は,フィルタレベルネットワーク剪定に焦点を合わせた。CLR-RNFと呼ばれる新しい剪定法を提案した。最初に,大きさベース重み剪定法における「長尾」長尾枝刈り問題を明らかにし,次に,個々の重み重要度に対する計算意識測定を提案し,次に,重みの交差Layer Ranking(CLR)を,底部ランク重みを同定し,除去するために,提案した。その結果,per-layerスパース性は,著者らのフィルタ剪定において,剪定ネットワーク構造をつくった。次に,各フィルタが最も近いフィルタのグループを推薦する推薦ベースのフィルタ選択方式を導入した。これらの推奨グループから保存フィルタをピックアップするために,選択したフィルタがこれらの推奨グループの交差点に陥るk-Reciprocal最近傍フィルタ(RNF)選択方式をさらに考案した。著者等の剪定ネットワーク構造とフィルタ選択は,非学習プロセスであり,従って,剪定複雑性を著しく減らし,既存の研究から著者らの方法を差別化する。CIFAR-10とImageNetの画像分類を行い,最先端技術のCLR-RNFの優位性を実証した。例えば,CIFAR-10では,CLR-RNFは74.1%のFLOPとVGGNet-16から95.0%のパラメータを除去し,さらに0.3%の正確度改善があった。ImageNet上では,70.2%のFLOPと64.8%のパラメータをResNet-50から除去し,わずか1.7%のトップ-5精度の低下があった。本プロジェクトはhttps://github.com/lmbxmu/CLR RNFである。【JST・京大機械翻訳】

, , , , , ,
, , , , , , , 【Automatic Indexing@JST】

パターン認識

前のページに戻る