自己教師付き学習からの視覚的事前の蒸留【JST・京大機械翻訳】

Zhao Bingchen; Wen Xin

プレプリント

J-GLOBAL ID：202202205392174929 整理番号：22P0177472

自己教師付き学習からの視覚的事前の蒸留【JST・京大機械翻訳】

Distilling Visual Priors from Self-Supervised Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2020年08月01日プレプリントサーバーでの情報更新日： 2020年08月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

畳み込みニューラルネットワーク(CNN)は,小さな訓練データセットを適合させる傾向がある。データ不足設定の下で画像分類のためのCNNモデルの一般化能力を改善するために,自己監督学習と知識蒸留を利用する新しい二相パイプラインを提示した。第1フェーズは,自己教師付き学習を介して豊富で一般化可能な視覚表現を持つ教師モデルを学習することであり,第2フェーズは,自己蒸留方式で学生モデルに表現を蒸留し,一方,画像分類タスクのために学生モデルを微調整することである。また,データ不足シナリオの下で表現をよりよく学習するための自己教師付きコントラスト学習プロキシタスクのための新しいマージン損失を提案した。他のトリックと共に,VIPrior画像分類チャレンジにおいて競合性能を達成した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , 【Automatic Indexing@JST】

人工知能

, , ,

前のページに戻る