非自己回帰ニューラル対話生成【JST・京大機械翻訳】

Han Qinghong; Meng Yuxian; Wu Fei; Li Jiwei

プレプリント

J-GLOBAL ID：202202218865908881 整理番号：22P0110365

非自己回帰ニューラル対話生成【JST・京大機械翻訳】

Non-Autoregressive Neural Dialogue Generation

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2020年02月11日プレプリントサーバーでの情報更新日： 2020年02月13日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

応答(y)とコンテキスト(x),すなわち,フォワード確率logp(y|x)と後方確率logp(x|y)の間の双方向依存性をモデル化する最大相互情報(MMI)は,オープンドメイン対話生成におけるdull-応答問題に対処するためのstsモデルの目的として広く使用された。残念なことに,stsモデルのフレームワークの下で,logp(y|x)+logp(x|y)からの直接復号化は,第2部分(すなわち,p(x|y))が計算できる前に目標生成の完了を必要とするので実行不可能であり,yのための探索空間は巨大である。経験的に,まず,p(y|x)を与えるN-bestリストを生成し,次に,p(x|y)を用いて,N-bestリストを再ランク付けし,非大域的最適解を必然的に得た。本論文では,非自己回帰(非AR)生成モデルを用いて,この非大域的最適性問題に対処した。ターゲットトークンは,非AR生成において独立に生成されるので,各ターゲット単語に対するp(x|y)は,生成されるとすぐに計算でき,全シーケンスの完了を待たなかった。これは,復号化における非大域的最適課題を自然に解決する。実験結果は,提案した非AR戦略が,BLEUスコアと人間評価において,より多様で,コヒーレントで,適切な応答を生成することを実証した。【JST・京大機械翻訳】

, , , , , , ,
, , , , , 【Automatic Indexing@JST】

システム・制御理論一般 , 無触媒気相反応

前のページに戻る