文献

J-GLOBAL ID：201002254116392369   整理番号：10A0485612

最小相対エントロピー識別学習へのラティスによる仮説表現と並列化可能な最適化手法の導入

Parallelizable Optimization Methods and Lattice-based Representations for Minimum Relative Entropy Discrimination Training

著者 (4件)： 久保陽太郎 (早稲田大) ,  渡部晋治 (NTT コミュニケーション科学基礎研) ,  中村篤 (NTT コミュニケーション科学基礎研) ,  小林哲則 (早稲田大)
資料名： 情報処理学会研究報告(CD-ROM)
巻： 2009  号： 6  ページ： ROMBUNNO.SLP-80,8  発行年： 2010年04月15日 
JST資料番号： Z0031C  ISSN： 2186-2583  資料種別： 逐次刊行物 (A)
記事区分： 短報  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 識別学習は,デコーダの出力する認識仮説と比較して正解ラベルの尤度を相対的に高めることで識別に特化したモデルを得るための手法であるが,経験的に過学習しやすいことが知られている。近年,音響モデルの識別学習において過学習を軽減するため,最小相対エントロピー識別が音響モデルの識別学習に導入されてきた。この手法ではパラメタ推定の不確実性をパラメタ分布によって表現することで適切に取り扱うことを可能としており過学習に強いと考えられるが,従来の実現法では大量の認識仮説,および大量のトレーニングデータを取り扱うには膨大な量の計算を単一のコンピュータで実行しなければならなかった。そこで,本研究では,ラティス型認識仮説表現を導入することで認識仮説の数に対する計算効率を,また勾配法に基づく並列化可能な最適化法を導入することでトレーニングデータの数に対する並列計算効率を向上させた。提案法を用いることで,最小相対エントロピー識別学習に必要なステップのほぼ全てがグリッドコンピュータのような並列計算環境で実現可能になり,また,従来のN-bestに基づく認識仮説表現では表現しきれないような膨大な数の認識仮説に対する最適化が行なえるようになった。(著者抄録)

シソーラス用語： *弁別学習 ,  モデル ,  *音響 ,  *並列処理 ,  エントロピー ,  計算機網 ,  最適化 ,  格子 ,  並列化
準シソーラス用語： グリッドコンピューティング ,  ラティス ,  *音響モデル ,  最小相対エントロピー ,  *識別学習

分類 (3件)： 人工知能  (JE08000Z) ,  音響信号処理  (BB03050C) ,  ディジタル計算機方式一般  (JC02010O)

タイトルに関連する用語 (7件)： 相対エントロピー ,  識別学習 ,  ラティス ,  仮説 ,  表現 ,  並列化 ,  最適化手法