文献

J-GLOBAL ID：202402267347287139   整理番号：24A0859418

言語横断類似度推定のための多言語文符号化器のドメイン適応

著者 (4件)： 山内洋輝 (愛媛大) ,  梶原智之 (愛媛大) ,  桂井麻里衣 (同志社大) ,  二宮崇 (愛媛大)
資料名： 言語処理学会年次大会発表論文集(Web)  (Proceedings of the Annual Meeting of the Association for Natural Language Processing (Web))
巻： 30th  ページ： ROMBUNNO.P6-9 (WEB ONLY)  発行年： 2024年03月04日 
JST資料番号： U0384A  ISSN： 2188-4420  資料種別： 会議録 (C)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 本研究では,多言語文符号化器のドメイン適応に取り組む.高度な専門知識が要求される医療や学術のドメインにおいては,目的ドメインに特化した事前訓練の有効性が知られている.しかし,様々な言語においてドメイン特化の単言語事前訓練モデルの開発が進む一方,言語横断情報検索などに応用可能な多言語モデルは存在しない.また,各言語における目的ドメインのコーパスを整備し多言語の事前訓練を行うには大きなコストが必要となる.そこで我々は,既存の多言語文符号化器および2言語の各々における目的ドメインに特化した単言語文符号化器を用いて,効率的にドメイン特化の言語横断文符号化器を開発する.3つのドメインおよび言語対における翻訳ランキングの評価実験の結果,ドメイン適応なしのベースラインや既存のドメイン適応手法と比べて,提案手法の有効性を確認できた.(著者抄録)

シソーラス用語： *機械学習 ,  アルゴリズム ,  ニューラルネットワーク ,  *自然言語処理 ,  *言語モデル ,  *ドメイン適応 ,  自己符号化器 ,  知識蒸留
準シソーラス用語： *クロスリンガル ,  マルチリンガル ,  *多言語処理 ,  *多言語モデル

分類 (2件)： 自然語処理  (JE06000L) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (8件)： 言語 ,  横断 ,  類似度 ,  推定 ,  多言語 ,  文 ,  符号化器 ,  ドメイン適応