MCSE:文埋込みのマルチモーダルコントラスト学習【JST・京大機械翻訳】

Zhang Miaoran; Mosbach Marius; Adelani David Ifeoluwa; Hedderich Michael A.; Klakow Dietrich

プレプリント

J-GLOBAL ID：202202211809613548 整理番号：22P0337142

MCSE:文埋込みのマルチモーダルコントラスト学習【JST・京大機械翻訳】

MCSE: Multimodal Contrastive Learning of Sentence Embeddings

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年04月22日プレプリントサーバーでの情報更新日： 2022年04月22日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

意味的に意味のある文章埋込みの学習は,自然言語処理における未解決問題である。本研究では,マルチモーダルコントラスト目的を介して視覚情報とテキスト情報の両方を利用する文章埋込み学習手法を提案した。様々な意味的テキスト類似性タスクに関する実験を通して,著者らのアプローチが,様々なデータセットと事前訓練符号器を通して性能を一貫して改善することを示した。特に,小量のマルチモーダルデータを大規模テキストのみコーパスと組み合わせることにより,最先端の平均スピアマン相関を1.7%改善する。テキスト埋込み空間の特性を分析することによって,著者らは,著者らのモデルが意味的に類似した文章を整列させる際に優れていることを示して,その改良性能のための説明を提供した。【JST・京大機械翻訳】

, , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , 自然語処理

, ,

前のページに戻る