PromDA:低リソースNLUタスクのための迅速ベースデータ増強【JST・京大機械翻訳】

Wang Yufei; Xu Can; Sun Qingfeng; Hu Huang; Tao Chongyang; Geng Xiubo; Jiang Daxin

プレプリント

J-GLOBAL ID：202202209251150517 整理番号：22P0295111

PromDA:低リソースNLUタスクのための迅速ベースデータ増強【JST・京大機械翻訳】

PromDA: Prompt-based Data Augmentation for Low-Resource NLU Tasks

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年02月25日プレプリントサーバーでの情報更新日： 2022年03月17日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,低資源自然言語理解(NLU)タスクに対するデータ認証に焦点を当てた。冷凍前訓練言語モデル(PLM)における小規模ソフトPrompt(即ち,訓練可能ベクトルの集合)のみを訓練するPromptベースのD}ata Augmentationモデル(PromDA)を提案した。これは,非ラベルドメインデータを収集し,生成された合成データの品質を維持するためのヒト努力を回避する。さらに,PromDAは2つの異なる視点により合成データを生成し,NLUモデルを用いて低品質データをフィルタリングする。4つのベンチマークに関する実験は,PromDAによって作り出された合成データが,非ラベルのドメイン内データを使用する最先端の半教師つきモデルを含む,いくつかの競合基準モデルを一貫して凌駕するNLUモデルの性能をうまく高めることを示した。PromDAからの合成データも非標識ドメインデータに相補的である。NLUモデルは,訓練のために併用するとき,さらに改良することができた。【JST・京大機械翻訳】

, , , , , , , , , , , , ,
, 【Automatic Indexing@JST】

人工知能 , パターン認識

, ,

前のページに戻る