音声認識のための自己教師付き予訓練表現の有用性に影響する要因の解析【JST・京大機械翻訳】

Seth Ashish; Prasad Lodagala V S V Durga; Ghosh Sreyan; Umesh S.

プレプリント

J-GLOBAL ID：202202206154872835 整理番号：22P0323194

音声認識のための自己教師付き予訓練表現の有用性に影響する要因の解析【JST・京大機械翻訳】

Analyzing the factors affecting usefulness of Self-Supervised Pre-trained Representations for Speech Recognition

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年03月31日プレプリントサーバーでの情報更新日： 2023年05月17日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

高レベル音声表現を学習するための自己監督学習(SSL)は,低資源設定における自動音声認識(ASR)システムを構築するための一般的なアプローチである。しかしながら,文献においてなされた共通仮定は,SSL予訓練のために活用できる同じドメインまたは言語に対して,かなりの量のラベルなしデータが利用可能であるということであり,それは,実世界設定において実現可能ではない。本論文では,Interspeech Gram Vaani ASRチャレンジの一部として,最終性能低資源下流ASRタスクに対する,上流予訓練SSLデータのドメイン,言語,データセットサイズ,および他の側面の影響を研究することを試みた。また,SSLを用いて訓練されたモデルによる事前知識の影響を検討するために,連続予訓練パラダイムを構築した。広範な実験と研究は,ASRシステムの性能がSSL予訓練に用いるデータに敏感であることを明らかにした。それらの性能は,事前訓練データの類似性と体積の増加とともに改善される。本研究は,低資源設定におけるより良いASRシステムの構築における音声コミュニティと,音声システムのためのSSLベース予訓練における一般化の改善に向けたステア研究に役立つであろうと信じる。【JST・京大機械翻訳】

, , , , , , ,
, , , , 【Automatic Indexing@JST】

自然語処理 , パターン認識

, , , , , , ,

前のページに戻る