少数ショットクロスリンガル移動のより緊密な見方:ショット物質の選択【JST・京大機械翻訳】

Zhao Mengjie; Zhu Yi; Shareghi Ehsan; Vulic Ivan; Reichart Roi; Korhonen Anna; Schuetze Hinrich

プレプリント

J-GLOBAL ID：202202218607443815 整理番号：21P0072681

少数ショットクロスリンガル移動のより緊密な見方:ショット物質の選択【JST・京大機械翻訳】

A Closer Look at Few-Shot Crosslingual Transfer: The Choice of Shots Matters

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2020年12月31日プレプリントサーバーでの情報更新日： 2021年06月02日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

多言語BERTのような事前訓練符号器とのゼロショット対応物よりも,少ないショット交差言語転送が優れていることが示されている。人気が増しているにもかかわらず,少数ショット実験の設計を標準化し,解析するための注意はほとんど払われていない。本研究では,この欠点によって提起された基本的なリスクを強調し,このモデルが少数のショットの選択に対して高度の感度を示すことを示した。40の言語までの6つの多様なNLPタスクに対して40セットのサンプリングされた少数ショットの大規模実験研究を行った。少数ショット転送の成功と失敗事例を分析し,語彙特徴の役割を強調した。さらに,著者らは,簡単な完全モデル微調整アプローチが数ショット移動に対して非常に有効であり,いくつかの最先端の少数ショットアプローチを凌ぐことを示した。少数ショット交差言語実験設計を標準化するためのステップとして,著者らは,著者らのサンプルが公開されている少数のショットを公開した。【JST・京大機械翻訳】

, , , , ,
, , 【Automatic Indexing@JST】

熱的操作によらぬ硬化

前のページに戻る