ラウィン変圧器:大きなウィンドウ注意によるマルチスケール表現によるセマンティックセグメンテーション変圧器の改善【JST・京大機械翻訳】

Yan Haotian; Zhang Chuang; Wu Ming

プレプリント

J-GLOBAL ID：202202217493435306 整理番号：22P0023852

ラウィン変圧器:大きなウィンドウ注意によるマルチスケール表現によるセマンティックセグメンテーション変圧器の改善【JST・京大機械翻訳】

Lawin Transformer: Improving Semantic Segmentation Transformer with Multi-Scale Representations via Large Window Attention

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月05日プレプリントサーバーでの情報更新日： 2023年08月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

マルチスケール表現は意味セグメンテーションにとって重要である。コミュニティは,マルチスケール文脈情報を利用する意味的セグメンテーション畳込みニューラルネットワーク(CNN)の穀粉を目撃した。視覚変圧器(ViT)が画像分類において強力であることによって,いくつかの意味的セグメンテーションVitsは最近提案され,それらのほとんどは印象的な結果を達成するが,計算経済のコストで達成される。本論文では,ウィンドウ注意機構を介してセマンティックセグメンテーションViTにマルチスケール表現を導入し,さらに性能と効率を改善することに成功した。この目的のために,局所ウィンドウを,ほんの少しの計算オーバヘッドでコンテキストウィンドウのより大きな領域を問い合わせすることを可能にする大きなウィンドウ注意を導入した。問い合わせ領域に対するコンテキスト面積の比率を調節することにより,大規模ウィンドウの注意が,多重スケールで文脈情報を捉えることを可能にした。さらに,空間ピラミッドプールのフレームワークを採用して,大きなウィンドウ注意と協調して,それはセマンティックセグメンテーションViTのために大きいウィンドウ注意空間ピラミッドプール(LawinASPP)という新規復号器を提示した。得られたViT,Lawin変換器は,符号器として効率的な階層的ビジョン変圧器(HVT)と復号器としてLawinASPPから成る。経験的結果は,Lawin変換器が既存の方法と比較して,改良効率を提供することを証明した。さらに,Lawin変換機は,都市景観(84.4%mIoU),ADE20K(56.2%mIoU)およびCOCO-Stuffデータセットに新しい最先端性能を設定した。コードはhttps://github.com/yan hao tian/lawinで放出される。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

パターン認識 , 図形・画像処理一般

, , , , ,

前のページに戻る