Pat
J-GLOBAL ID：201703014483239504
混合係数パラメータ学習装置、混合生起確率算出装置、及び、これらのプログラム
Inventor：
Applicant, Patent owner：
Agent (1)：
特許業務法人磯野国際特許商標事務所
Gazette classification：公開公報
Application number (International application number)：2015132347
Publication number (International publication number)：2017016384
Application date： Jul. 01, 2015
Publication date： Jan. 19, 2017
Summary：
【課題】混合生起確率の正確性を向上させる混合係数パラメータ学習装置を提供する。【解決手段】混合係数パラメータ学習装置30は、ニューラルネットワーク言語モデル演算装置10に隠れ層ベクトル及び生起確率を要求する第1生起確率要求手段312と、他言語モデル演算装置20に生起確率を要求する第2生起確率入力手段313と、隠れ層ベクトルから混合係数を算出する第1混合係数算出手段314と、確率的勾配降下法により、写像ベクトルを更新する写像ベクトル更新手段315と、更新率を減少させる更新率減少手段317と、終了条件を満たすまで、写像ベクトル更新手段315に写像ベクトルを更新させる終了条件判定手段316とを備える。【選択図】図2
Claim (excerpt)：
ニューラルネットワーク確率モデルと前記ニューラルネットワーク確率モデル以外の他の確率モデルとのそれぞれで求めた前要素系列に対する次要素の生起確率を混合するときの混合係数の算出に必要なパラメータを学習する混合係数パラメータ学習装置であって、
前記ニューラルネットワーク確率モデルの隠れ層ベクトルと、前記ニューラルネットワーク確率モデルで求めた生起確率とが入力される第1生起確率入力手段と、
前記他の確率モデルで求めた生起確率が入力される第2生起確率入力手段と、
予め設定された写像ベクトルにより前記隠れ層ベクトルを実数値のスカラに線形写像し、前記実数値のスカラをシグモイド関数で非線形変換することで、前記混合係数を算出する第1混合係数算出手段と、
前記ニューラルネットワーク確率モデルと前記他の確率モデルとのそれぞれで求めた生起確率、前記混合係数、及び、予め設定された更新率を用いた確率的勾配降下法により、前記パラメータとしての前記写像ベクトルを更新する写像ベクトル更新手段と、
予め設定された更新率減少規則に従って前記更新率を減少させる更新率減少手段と、
予め設定された終了条件を満たすか否かを判定し、前記終了条件を満たすまで、減少させた前記更新率で前記写像ベクトル更新手段に前記写像ベクトルを更新させる終了条件判定手段と、
を備えることを特徴とする混合係数パラメータ学習装置。
IPC (2)：
FI (2)：
F-Term (3)：
5B091AA15
, 5B091CA01
, 5B091EA01
