文献

J-GLOBAL ID：201102219446190778   整理番号：11A0108800

ガウス混合分布の正規化最尤符号の効率的計算法とモデル選択

Efficient Computation of Normalized Maximum Likelihood Coding for Gaussian Mixtures with Its Applications to Model Selection

著者 (2件)： 平井聡 (東大) ,  山西健司 (東大)
資料名： 電子情報通信学会技術研究報告  (IEICE Technical Report (Institute of Electronics, Information and Communication Engineers))
巻： 110  号： 265(IBISML2010 60-103)  ページ： 327-333  発行年： 2010年10月28日 
JST資料番号： S0532B  ISSN： 0913-5685  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 本論文ではガウス混合分布に対して正規化最尤(NML)符号長を効率的に計算する方法を新しく提案する。NML符号長はモデルに対するデータの最短記述長(確率的コンプレキシティ)としての意味をもつが,一般に連続値データに対してNML符号長を計算すると正規化項が無限に発散してしまうという問題がある。本論文ではこの問題を克服し,O(n²)(nはデータ数)でNML符号長を計算する効率アルゴリズムを提案する。また,本手法を混合数の選択問題に適用し,既存のAICやBICといった基準と比較することでその有効性を検証する。(著者抄録)

シソーラス用語： 正規化 ,  アルゴリズム ,  選択問題 ,  *パラメタリゼーション ,  正規分布 ,  数値計算 ,  符号
準シソーラス用語： *モデル選択 ,  混合正規分布 ,  混合正規分布モデル ,  符号長 ,  正規化最尤符号

分類 (2件)： 符号理論  (ND02030R) ,  オペレーションズリサーチの基礎的数学理論  (KA03020B)

引用文献 (13件)：

• AKAIKE, H. Information theory and an extension of the maximum likelihood principle. Proceeding of the Second International Symposium on Information Theory, Budapest, Akademiai Kiado. 267-281
• DEMPSTER, A. P. Maximum like-lihood from incomplete data via the EM algorithm. J. Royal Staitst. Soc. B. 1977, 39, 1-38
• GRUNWALD, P. D. The Minimum Description Length Principle. 2007
• KONTKANEN, P. A linear time algorithm for computing the multinomial stochastic complexity. Information Processing Letters. 2007, 103, 227-233
• KONTKANEN, P. An empirical comparison of NML clustering algorithms. Proceedings of the 2008 International Conference on Information Theory and Statistical Learning (ITSL-08). 2008, 125-131

タイトルに関連する用語 (7件)： ガウス ,  混合分布 ,  正規化 ,  最尤 ,  符号 ,  計算法 ,  モデル選択