文献

J-GLOBAL ID：201702226619462375   整理番号：17A1035056

語の文書ベース話題分布を用いたLDAに基づく文脈依存リカレントニューラルネットワーク言語モデル【Powered by NICT】

LDA-based context dependent recurrent neural network language model using document-based topic distribution of words

著者 (2件)： Haidar Md. Akmal (Department of Signal Processing and Acoustics, School of Electrical Engineering, Aalto University, Finland) ,  Kurimo Mikko (Department of Signal Processing and Acoustics, School of Electrical Engineering, Aalto University, Finland)
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2017  号： ICASSP  ページ： 5730-5734  発行年： 2017年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： リカレントニューラルネットワーク言語モデル(RNNLMs)に文脈情報を付加RNNLM学習の有効性を改善するために最近研究されてきた。従来,単語のブロックのための高速近似トピック表現は潜在的Dirichlet配分(LDA)モデルを組み込んだ単語のコーパスに基づくトピック分布を用いて提案した。は指数関数的減衰を用いて各その後の単語に対する更新される。しかし,単語は,種々の文書に異なる話題を表すことができた。本論文では,LDAモデルを用いて,各単語の話題上の文書ベース分布を形成し,高速近似指数関数的に減衰する特徴の計算に適用した。良く知られたPenn Treebankコーパス上での実験結果を示し,提案アプローチでは,従来のLDAベース文脈RNNLMアプローチよりも優れていることを見出した。さらに,Wall Street Journalコーパス上での音声認識実験を行い,他の手法に対し,単語誤り率(WER)の改善を達成した。Copyright 2017 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： 指数関数 ,  学習 ,  *モデル ,  *言語モデル ,  音声認識 ,  単語 ,  コーパス ,  誤り率 ,  高速度 ,  近似法
準シソーラス用語： 指数関数的減衰 ,  文脈情報 ,  *リカレントニューラルネットワーク , 【Automatic Indexing@JST】

分類 (2件)： 自然語処理  (JE06000L) ,  パターン認識  (JE07000S)

タイトルに関連する用語 (7件)： 語 ,  文書 ,  話題 ,  分布 ,  LDA ,  リカレントニューラルネットワーク ,  言語モデル