言語モデリングのための一般化階層的単語並びフレームワーク

WU Xiaoyi; DUH Kevin; MATSUMOTO Yuji

文献

J-GLOBAL ID：201702259156157369 整理番号：17A0746289

言語モデリングのための一般化階層的単語並びフレームワーク

Generalized Hierarchical Word Sequence Framework for Language Modeling

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで {{ this.onShowJLink("http://jdream3.com/lp/jglobal/index.html?docNo=17A0746289&from=J-GLOBAL&jstjournalNo=L3934A") }}

著者 (3件)： , ,
資料名：
巻： 24 号： 3 ページ： 395-419 発行年： 2017年06月15日
JST資料番号： L3934A ISSN： 1340-7619 資料種別：逐次刊行物 (A)
記事区分：原著論文発行国：日本 (JPN) 言語：英語 (EN)

言語モデリングは多くのNLPタスクに広い適用を持つ基礎的な研究課題である。自然言語文の確率を推定するために,言語モデリングに関する大半の研究は文確率を因数に分解するために,n-gramに基づく手法を利用する。しかしながら,n-gramモデルに基づく仮定は,言語モデルの最終的な性能に影響するデータスパース性問題に十分耐えるほどロバストではない。本論文では,教師なし方式で単語並びを再配置するために全体として異なる単語関連スコアを導入できる,一般化階層的単語並びフレームワークを提案した。左から右の文確率を因数に分解するn-gramとは異なり,本モデルはより柔軟な戦略を用いて因数に分解する。評価のために通常のn-gram単語並びと,本再配置した単語並びを比較した。本質的な実験と付帯的な実験の双方では,本言語モデルは提案した方法がn-gram言語モデルに対するよりよい代替案として考えられることを証明する,よりよい性能を実現できることが確かめられた。(翻訳著者抄録)

, , , , , , , , , , ,

自然語処理 , 情報加工一般 , システム・制御理論一般

引用文献 (28件)：

Allison, B., Guthrie, D., Guthrie, L., Liu, W., and Wilks, Y. (2005). Quantifying the Likelihood of Unseen Events: A further look at the data Sparsity problem. Awaiting publication.
Banerjee, S. and Lavie, A. (2005). “METEOR: An Automatic Metric for MT Evaluation with Improved Correlation with Human Judgments.” In Proceedings of the ACL Workshop on Intrinsic and Extrinsic Evaluation Measures for Machine Translation And/Or Summarization, pp. 65-72.
Bickel, S., Haider, P., and Scheffer, T. (2005). “Predicting Sentences using n-gram Language Models.” In Proceedings of the Conference on Human Language Technology and Empirical Methods in Natural Language Processing, pp. 193-200.
Bilmes, J. A. and Kirchhoff, K. (2003). “Factored Language Models and Generalized Parallel Backoff.” In Proceedings of the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology, Vol. 2, pp. 4-6.
Brown, P. F., Cocke, J., Pietra, S. A., Pietra, V. J., Jelinek, F., Lafferty, J. D., Mercer, R. L., and Roossin, P. S. (1990). “A Statistical Approach to Machine Translation.” Computational Linguistics, 16 (2), pp. 79-85.

, , ,

前のページに戻る