コントラスト近傍アラインメント【JST・京大機械翻訳】

Zhu Pengkai; Cai Zhaowei; Xiong Yuanjun; Tu Zhuowen; Goncalves Luis; Mahadevan Vijay; Soatto Stefano

プレプリント

J-GLOBAL ID：202202206979276941 整理番号：22P0024159

コントラスト近傍アラインメント【JST・京大機械翻訳】

Contrastive Neighborhood Alignment

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年01月05日プレプリントサーバーでの情報更新日： 2022年01月05日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

コントラスト近傍アラインメント(CNA)を示し,ソース(教師)モデルによって近傍表現に写像されるデータポイントを,ターゲット(直感的)モデルによって近傍に写像する,学習された特徴のトポロジーを維持するための多様体学習アプローチである。ターゲットモデルは,コントラスト損失を用いてソース表現空間の局所構造を模倣することを目的とする。CNAは,個々のサンプルに対して地上-トラスラベルを必要としない教師なし学習アルゴリズムである。CNAを3つのシナリオで例証した:モデルには次元縮小空間における元のデータのローカルトポロジーを維持する。モデル蒸留は,小さな学生モデルを訓練して,より大きな教師を模倣した。そして,古いモデルをより強力なものに置き換えるレガシーモデル更新。実験により,CNAは高次元空間における多様体を捕捉でき,それらのドメインにおいて競合する方法と比較して性能を改善することを示した。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る