文献

J-GLOBAL ID：201702269845614568   整理番号：17A0869733

バイタームトピックモデルの確率的ダイバージェンス最小化

Stochastic Divergence Minimization for Biterm Topic Model

著者 (5件)： CUI Zhenghang (Univ. Tokyo) ,  SATO Issei (Univ. Tokyo) ,  SATO Issei (RIKEN) ,  SUGIYAMAM Masashi (RIKEN) ,  SUGIYAMAM Masashi (Univ. Tokyo)
資料名： 電子情報通信学会技術研究報告  (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers))
巻： 117  号： 110(IBISML2017 1-10)  ページ： 185-192  発行年： 2017年06月16日 
JST資料番号： S0532B  ISSN： 0913-5685  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 英語 (EN)

抄録/ポイント： セルフメディアとソーシャルネットワークの出現と発展に伴ない,大量のショートテキストが処理されないまま蓄積されている。集積されたショートテキストの潜在トピックを推定することは,データの潜在的な構造を理解するのに有用である。pLSAとLDAのような伝統的なトピックモデルは,文書レベルの単語共起のスパース性のため,ショートテキストからなるデータセットで良い結果が得られない。それに対して単語対の生成過程を直接モデリングすることにより,このスパース性を克服するバイタームトピックモデル(BTM)が近年提案された。そして,崩壊型ギブズサンプリングや崩壊型変分推定などのバッチアルゴリズムに基づいた大規模なデータセットへ適用できるBTMの確率的推論アルゴリズムが開発された。しかし,これらの手法は大きな計算量を必要とするか,または粗い推定の上で成り立っている。本論文では,大規模なデータセットへも適用できるBTMの確率的ダイバージェンス最小化の手法を提案する。そして,われわれのアルゴリズムの従来の手法に対する優位性を実験的に示す。(著者抄録)

シソーラス用語： *確率モデル ,  *確率推論 ,  アルゴリズム ,  エントロピー ,  情報量 ,  大規模 ,  集合 ,  *文書処理 ,  評価
準シソーラス用語： ダイバージェンス【情報理論】 ,  テキスト処理 ,  トピックモデル ,  バイタームトピックモデル ,  実験評価 ,  大規模データセット

分類 (2件)： 人工知能  (JE08000Z) ,  数値計算  (JE02000J)

引用文献 (14件)：

• ”Probabilistic latent semantic indexing”, pp. 50-57 (1999).
• ”Latent dirichlet allocation”, J. Mach. Learn. Res., 3, pp.993-1022 (2003).
• ”Btm: Topic modeling over short texts”, IEEE Transactions on Knowledge and Data Engineering, 26, 12, pp. 2928-2941 (2014).
• ”On-line lda: Adaptive topic models for mining text streams with applications to topic detection and tracking”, pp. 3-12 (2008).
• ”Online inference of topics with latent dirichlet allocation”, Proceedings of AI Stats (2009).

タイトルに関連する用語 (3件)： 確率 ,  ダイバージェンス ,  最小化