ローカルおよびグローバル表現のレバレッジ:新しい自己教師付き学習戦略【JST・京大機械翻訳】

Zhang Tong; Qiu Congpei; Ke Wei; Suesstrunk Sabine; Salzmann Mathieu

プレプリント

J-GLOBAL ID：202202213416573237 整理番号：22P0323426

ローカルおよびグローバル表現のレバレッジ:新しい自己教師付き学習戦略【JST・京大機械翻訳】

Leverage Your Local and Global Representations: A New Self-Supervised Learning Strategy

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年03月31日プレプリントサーバーでの情報更新日： 2022年04月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

自己監督学習(SSL)法は,作付けサイズやコンテンツに関係なく,同じ画像の異なる作物から抽出した特徴間の類似性を最大化することにより,ビュー不変表現を学習することを目的とする。本質的に,この戦略は,2つの作物が,異なる画像情報,例えば,背景と小さなオブジェクトを真に含むという事実を無視し,従って,学習された表現の多様性を抑制する傾向がある。本研究では,局所およびグローバル作物について明示的に推論する,新しい自己監督学習戦略,LoGo,を導入することによってこの問題に対処した。視野不変性を達成するために,LoGoは,地球規模と局所作物との間と同様に,同じ画像からのグローバル作物間の類似性を奨励する。しかし,より小さな作物の含有量が全く異なるという事実を正確にコード化するために,LoGoは2つの局所作物を促進し,異なる表現を持つが,地球規模の作物に近い。このLoGo戦略は既存のSSL法に容易に適用できる。様々なデータセットおよび異なる自己監督学習フレームワークを用いた著者らの広範な実験は,既存のアプローチに対する優位性を検証した。注目すべきことに,データの1/10だけを使用するとき,転送学習に関する教師つきモデルより良い結果を達成した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , 【Automatic Indexing@JST】

パターン認識 , 人工知能

, , , ,

前のページに戻る