意図条件付けによる非自己回帰意味構文解析のためのトップK復号化の改善【JST・京大機械翻訳】

Oh Geunseob; Goel Rahul; Hidey Chris; Paul Shachi; Gupta Aditya; Shah Pararth; Shah Rushin

プレプリント

J-GLOBAL ID：202202218747797463 整理番号：22P0332036

意図条件付けによる非自己回帰意味構文解析のためのトップK復号化の改善【JST・京大機械翻訳】

Improving Top-K Decoding for Non-Autoregressive Semantic Parsing via Intent Conditioning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年04月14日プレプリントサーバーでの情報更新日： 2022年04月14日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

意味構文解析(SP)は,Google AssistantおよびAmazon Alexaのような現代の仮想支援のコア成分である。シーケンスツーシーケンスベースの自己回帰(AR)手法は会話的意味構文解析に対して一般的であるが,最近の研究では非自己回帰(NAR)復号器を採用し,競合構文品質を維持しながら推論待ち時間を低減する。しかし,NAR復号器の主な欠点は,ビーム探索のようなアプローチでトップk(即ち,k-best)出力を生成する困難さである。この課題に取り組むために,復号器に意図的条件付けを導入する新しいNARセマンティックパーザを提案する。従来の意図とスロットタグ付けパーザに触発されて,著者らは,構文の残りからトップレベルの意図予測を切り離す。トップレベルの意図が構文の構文と意味論を大きく支配するので,意図的調整はビーム探索をよりよく制御することを可能にし,トップk出力の品質と多様性を改善する。訓練と推論ミスマッチを避けるため,ハイブリッド教師強化アプローチを導入した。会話SPデータセット,TOP&TOPv2に関する提案NARを評価した。既存のNARモデルと同様に,より多様な出力を生成し,2.4ポイントでトップ-3正確なマッチ(EM)を改善することで,O(1)復号化時間の複雑性を維持する。ARモデルと比較して,著者らのモデルは,競合トップ-kEMによるCPUの6.7倍のビーム探索推論をスピードアップした。【JST・京大機械翻訳】

, , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

自然語処理

, , , , , ,

前のページに戻る