2040の画像による視覚変圧器の訓練【JST・京大機械翻訳】

Cao Yun-Hao; Yu Hao; Wu Jianxin

プレプリント

J-GLOBAL ID：202202207440754617 整理番号：22P0279888

2040の画像による視覚変圧器の訓練【JST・京大機械翻訳】

Training Vision Transformers with Only 2040 Images

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年01月25日プレプリントサーバーでの情報更新日： 2022年01月25日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

視覚認識のための畳み込みニューラルネットワーク(CNN)の代替として,視覚変換機(ViT)が浮上している。それらはCNNとの競合結果を達成するが,典型的な畳み込み誘導バイアスの欠如は共通のCNNよりも多くのデータハンガリーを作る。それらは,しばしばJFT-300Mまたは少なくともImageNetで事前訓練され,限られたデータでVITを訓練する研究はほとんどない。本論文では,限られたデータ(例えば2040画像)を用いてVitsを訓練する方法を検討した。提案手法(パラメトリックインスタンス識別に基づく)は,特徴アラインメントとインスタンス類似性の両方を捉えることができる他の方法よりも優れていることを理論解析で示した。種々のViTバックボーンの下で7つの小さなデータセットのスクラッチから訓練するとき,最先端の結果を達成した。また,小データセットの移動能力を調べ,小データセットから学習された表現が大規模画像Net訓練を改良できることを見出した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

パターン認識 , 人工知能 , 図形・画像処理一般

, ,

前のページに戻る