BERTの多言語性のための必要要素の同定【JST・京大機械翻訳】

Dufter Philipp; Schuetze Hinrich

プレプリント

J-GLOBAL ID：202202201129645164 整理番号：21P0030716

BERTの多言語性のための必要要素の同定【JST・京大機械翻訳】

Identifying Necessary Elements for BERT's Multilinguality

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2020年05月01日プレプリントサーバーでの情報更新日： 2021年02月08日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

多言語BERT(mBERT)は高品質多言語表現をもたらし,効果的なゼロショット転送を可能にすることを示した。これは,mBERTが訓練中にいかなる交差言語信号も使用しないという驚くべきものである。最近の文献はこの現象を研究してきたが,多言語性の理由はまだ幾分不明瞭である。BERTのアーキテクチャ特性を同定し,BERTが多言語になるために必要な言語の言語特性を同定することを目的とした。速い実験を可能にするため,合成データと自然データのミックスで訓練された小さなBERTモデルによる効率的なセットアップを提案した。全体として,多言語性に影響する4つのアーキテクチャと2つの言語要素を同定した。この洞察に基づいて,VecMap,すなわち教師なし埋込みアラインメントを用いてマスキング戦略を修正する多言語予訓練装置を用いた。3つの言語によるXNLIに関する実験は,著者らの発見が著者らの小さなセットアップから大規模な設定まで移転することを示した。【JST・京大機械翻訳】

, , ,
, , 【Automatic Indexing@JST】

パターン認識

, , ,

前のページに戻る