音節を用いた単語埋込みの圧縮【JST・京大機械翻訳】

Mertens Laurent; Vennekens Joost

プレプリント

J-GLOBAL ID：202202212128445791 整理番号：22P0027150

音節を用いた単語埋込みの圧縮【JST・京大機械翻訳】

Compressing Word Embeddings Using Syllables

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年01月13日プレプリントサーバーでの情報更新日： 2022年01月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本研究では,サブワード埋込みとして,しばしば用いられるnグラム埋込みの代わりに,音節埋込みの使用の可能性を調べた。英語とオランダの2つの言語について調べた。この目的のために,オランダに対する2つの標準英語単語埋込み評価データセット,WordSim353およびSemEval-2017を翻訳した。さらに,両言語に対するシラブル分解のデータセットを持つ研究コミュニティを提供した。提案手法を全単語とnグラム埋込みと比較した。完全な単語埋込みと比較して,性能の80%を保持しながら,20から30倍小さい英語モデルを得た。オランダでは,モデルは70%の性能保持に対して15倍小さい。使用したn-gramベースラインよりも精度が低いが,n-gramアプローチの時間とは対照的に,著者らのモデルは数分に訓練できる。将来の研究における性能改善に向けた経路を同定した。すべてのコードは,著者らの収集した英語とオランダのシルブリック分解とオランダ評価セット翻訳と同様に,公的に利用できる。【JST・京大機械翻訳】

, , , , , , , , ,
, 【Automatic Indexing@JST】

自然語処理 , パターン認識

, ,

前のページに戻る