条件付きオートエンコーダによる効率的な高密度検索のための次元縮小【JST・京大機械翻訳】

Liu Zhenghao; Zhang Han; Xiong Chenyan; Liu Zhiyuan; Gu Yu; Li Xiaohua

プレプリント

J-GLOBAL ID：202202217728703834 整理番号：22P0345429

条件付きオートエンコーダによる効率的な高密度検索のための次元縮小【JST・京大機械翻訳】

Dimension Reduction for Efficient Dense Retrieval via Conditional Autoencoder

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年05月06日プレプリントサーバーでの情報更新日： 2022年10月22日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

高密度検索者はクエリと文書を符号化し,事前訓練言語モデルを用いて埋込み空間にそれらをマッピングする。これらの埋込みは訓練信号を適合させるために高次元であり,高密度検索者の検索有効性を保証する必要がある。しかしながら,これらの高次元埋込みは,より大きなインデックスストレージとより高い検索待ち時間をもたらす。高密度検索の埋込み次元を減らすために,本論文は,同じ埋込み分布を維持して,ランキング特性をより良く回復するために,高次元埋込みを圧縮するために,条件付き自動符号器(ConAE)を提案した。著者らの実験は,ConAEが,その教師モデルと同程度のランキング性能を達成して,検索システムをより効率的にすることによって,埋込みを圧縮するのに有効であることを示した。著者らの更なる解析は,ConAEが1つの線形層だけを有する高密度検索の埋込みの冗長性を軽減することができることを示した。本研究の全てのコードはhttps://github.com/NEUIR/ConAEで利用可能である。【JST・京大機械翻訳】

, , , , , , , , , , , , ,
, 【Automatic Indexing@JST】

図形・画像処理一般 , パターン認識

, , ,

前のページに戻る