多言語高密度検索モデル訓練のためのベストプラクティスに向けて【JST・京大機械翻訳】

Zhang Xinyu; Ogueji Kelechi; Ma Xueguang; Lin Jimmy

プレプリント

J-GLOBAL ID：202202201190680096 整理番号：22P0325860

多言語高密度検索モデル訓練のためのベストプラクティスに向けて【JST・京大機械翻訳】

Towards Best Practices for Training Multilingual Dense Retrieval Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年04月05日プレプリントサーバーでの情報更新日： 2022年04月05日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

変圧器ベースのバイエンコーダ設計を用いた高密度検索モデルは,研究の活性領域として浮上している。本研究では,そのような設計を用いて,多様な言語学的に多様な言語におけるモノリンガル検索のタスクに焦点を当てた。多言語変圧器による最近の研究は,それらが強い交差言語一般化能力を示すことを実証したが,ここでは,ここで取り組む多くの未解決研究疑問が残っている。本研究は,多言語の高密度検索モデルの訓練のための「最良の実践」指針として組織化され,多言語変圧器が利用可能であるが,関連性判断は興味の言語で利用できない。両モデルと訓練データが利用可能である。そして,訓練データが利用できるが,モデルではない。これらのシナリオを考慮して,多段微調整の役割,種々の条件下での交差舌移動の強さ,言語外データの有用性,および多言語対単舌変圧器の利点のより良い理解を得た。著者らの推奨事項は,特に低資源言語に対して,実務家建築探索アプリケーションのための指針を提供し,一方,著者らの研究は,多数の研究疑問を開け,将来の研究のための堅固な基礎を提供する。【JST・京大機械翻訳】

, , , , , , ,
, , , , , 【Automatic Indexing@JST】

パターン認識 , 自然語処理 , 情報検索一般

, , , , ,

前のページに戻る