CF-ViT:ビジョン変圧器のための一般的粗対フィン法【JST・京大機械翻訳】

Chen Mengzhao; Lin Mingbao; Li Ke; Shen Yunhang; Wu Yongjian; Chao Fei; Ji Rongrong

プレプリント

J-GLOBAL ID：202202218005299799 整理番号：22P0300471

CF-ViT:ビジョン変圧器のための一般的粗対フィン法【JST・京大機械翻訳】

CF-ViT: A General Coarse-to-Fine Method for Vision Transformer

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年03月07日プレプリントサーバーでの情報更新日： 2022年11月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ビジョン変換機(ViT)はコンピュータビジョンタスクにおいて多くのブレークスルーをしている。しかし,かなりの冗長性が入力画像の空間次元で発生し,大規模な計算コストをもたらす。したがって,本論文では,性能を維持しながら,計算負荷を軽減するために,粗いビジョン変圧器(CF-ViT)を提案した。提案したCF-ViTは,現代のViTモデルにおける2つの重要な観察によって動機づけられた。(1)粗粒パッチ分割は入力画像の情報領域を見つけることができる。(2)ほとんどの画像は,小長さのトークンシーケンスにおけるViTモデルによってよく認識できる。したがって,著者らのCF-ViTは,二段階方式でネットワーク推論を実行する。粗い推論段階で,入力画像は計算的に経済的な分類のために小長さのパッチシーケンスに分割される。よく認識されないならば,有益なパッチを同定し,さらに細粒粒度で再分割する。広範な実験は,著者らのCF-ViTの有効性を実証した。例えば,性能に関する妥協なしに,CF-ViTはLV-ViTの53%FLOPを低減し,また2.01xスループットを達成した。【JST・京大機械翻訳】

, , , , , , , ,
, , , , 【Automatic Indexing@JST】

図形・画像処理一般 , パターン認識

, , ,

前のページに戻る