自己教師付きプレトレーニングとデータ増強を用いた直接音声対音声翻訳の強化【JST・京大機械翻訳】

Popuri Sravya; Chen Peng-Jen; Wang Changhan; Pino Juan; Adi Yossi; Gu Jiatao; Hsu Wei-Ning; Lee Ann

プレプリント

J-GLOBAL ID：202202206829169624 整理番号：22P0327389

自己教師付きプレトレーニングとデータ増強を用いた直接音声対音声翻訳の強化【JST・京大機械翻訳】

Enhanced Direct Speech-to-Speech Translation Using Self-supervised Pre-training and Data Augmentation

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (8件)： , , , , , , ,
資料名：
発行年： 2022年04月06日プレプリントサーバーでの情報更新日： 2022年09月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

自動音声認識(ASR),機械翻訳(MT)およびテキスト対音声(TTS)合成から成る従来のカスケードシステムに対して利用可能なデータ量と比較して,直接音声-音声翻訳(S2ST)モデルは,並列S2STデータがほとんど存在しないため,データ不足問題に悩まされる。本研究では,この問題に取り組むために,ラベルなし音声データとデータ増強による自己教師付き事前訓練を検討した。著者らは,ターゲット音声を離散表現に符号化する最近提案された音声-ユニット変換(S2UT)フレームワークと,音声符号器と離散ユニット復号器事前訓練の両方を研究することによって,S2UTドメインへの音声-テキスト翻訳(S2T)のためによく働く移動予訓練と効率的部分微調整技術を利用した。スペイン-英語翻訳に関する著者らの実験は,自己監督予訓練が平均6.6-12.1BLEU利得を有するマルチタスク学習と比較してモデル性能を一貫して改良して,それは弱い教師つき訓練データを作り出すためにMTを適用するデータ増強技術とさらに組合せることができることを示した。Audio試料はhttps://facebookresearch.github.io/speech_translation/enhanced_direct_s2st_units/index.htmlで利用可能である。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

自然語処理

, , , ,

前のページに戻る