ラベル効率の良い学習のためのマスクされたSiamesネットワーク【JST・京大機械翻訳】

Assran Mahmoud; Caron Mathilde; Misra Ishan; Bojanowski Piotr; Bordes Florian; Vincent Pascal; Joulin Armand; Rabbat Michael; Ballas Nicolas

プレプリント

J-GLOBAL ID：202202211797516630 整理番号：22P0332429

ラベル効率の良い学習のためのマスクされたSiamesネットワーク【JST・京大機械翻訳】

Masked Siamese Networks for Label-Efficient Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (9件)： , , , , , , , ,
資料名：
発行年： 2022年04月14日プレプリントサーバーでの情報更新日： 2022年04月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

画像表現を学習するための自己教師付き学習フレームワークであるMasked Siameseネットワーク(MSN)を提案した。提案アプローチは,元の非マスク画像の表現にランダムにマスクされたパッチを含む画像ビューの表現と一致する。この自己教師付き事前訓練戦略は,非マスクパッチだけがネットワークによって処理されるので,Vision変換機に適用するとき特にスケーラブルである。その結果,MSNは共同埋込みアーキテクチャのスケーラビリティを改善し,一方,低ショット画像分類において競合的に実行する高い意味レベルの表現を生成する。例えば,画像Net-1Kでは,5000の注釈付き画像だけを用いて,筆者らのベースMSNモデルは72.4%のトップ-1精度を達成し,1%のImageNet-1Kラベルで,著者らは75.7%のトップ-1精度を達成し,このベンチマークに関する自己監督学習のための新しい最先端技術を設定する。このコードは公的に利用できる。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

図形・画像処理一般 , 人工知能

, ,

前のページに戻る