文献

J-GLOBAL ID：201202266506784961   整理番号：12A1663198

潜在トピックを考慮したBayes n-gram言語モデル

Latent Topic Aware Bayesian n-gram Language Model

著者 (3件)： 能地宏 (東大 大学院情報理工学系研究科) ,  持橋大地 (統計数理研) ,  石塚満 (東大 大学院情報理工学系研究科)
資料名： 情報処理学会研究報告(CD-ROM)
巻： 2012  号： 3  ページ： ROMBUNNO.NL-208,NO.4  発行年： 2012年10月15日 
JST資料番号： Z0031C  ISSN： 2186-2583  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 文書の潜在トピックを捉え,トピックに応じた適切なnグラムを用いて予測を行うBayes的なnグラム言語モデルを提案する。文章には,単語の出現が文書のトピックに依存して決まる内容語と,文法的な関係のみで決まる機能語が存在する。我々はこれらの単語の出現が,文脈によっておおまかに決まることに着目し,適切な箇所でのみトピックを考慮した予測を行うモデルとして,2種類のモデルを提案し,比較を行う。トピック別のnグラムモデルを,通常のGibbsサンプリングで学習したのではすぐに局所解に陥ってしまうことを実験的に示し,それを回避するための新しいBlocked Gibbsサンプリングを提案する。提案法は,パープレキシティの比較において,Unigram Rescalingと同等以上の性能を示しながら,予測時間の大幅な改善を行うことを確認した。(著者抄録)

シソーラス用語： *言語モデル ,  標本抽出 ,  *Bayes推定 ,  主題分析 ,  予測技法 ,  主題 ,  単語 ,  文法 ,  計算言語学 ,  性能評価 ,  高速化 ,  予測 ,  時間
準シソーラス用語： Gibbsサンプリング ,  *Nグラム ,  パープレキシティ ,  局所解 ,  予測時間

分類 (2件)： 情報加工一般  (AC05010A) ,  システム・制御理論一般  (IA02010H)

タイトルに関連する用語 (3件)： トピック ,  N-gram ,  言語モデル