適応木探索による任意翻訳目標の実現【JST・京大機械翻訳】

Ling Wang; Stokowiec Wojciech; Donato Domenic; Sartran Laurent; Yu Lei; Matthews Austin; Dyer Chris

プレプリント

J-GLOBAL ID：202202219311096393 整理番号：22P0294056

適応木探索による任意翻訳目標の実現【JST・京大機械翻訳】

Enabling arbitrary translation objectives with Adaptive Tree Search

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (7件)： , , , , , ,
資料名：
発行年： 2022年02月23日プレプリントサーバーでの情報更新日： 2022年02月23日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

適応ツリー探索アルゴリズムを導入し,検索目的の形式または構造について仮定をしない翻訳モデルの下で高いスコアリング出力を見つけることができる。このアルゴリズムは,モンテカルロツリー探索の決定論的バリアントであり,自己回帰または条件付き独立仮定のような復号化を扱いやすい制約によって,制約されない新しい種類のモデルの探索を可能にする。自己回帰モデルに適用した場合,提案アルゴリズムはビーム探索よりも異なるバイアスを持ち,自己回帰モデルにおける復号化バイアスの役割の新しい解析を可能にした。経験的に,著者らは,著者らの適応ツリー探索アルゴリズムが,自己回帰モデルにおけるビーム探索と比較して,実質的により良いモデルスコアを有する出力を見つけて,そのスコアが出力における単語に関して付加的に分解されないモデルにおける再ランク付け技術と比較したことを示した。また,BLEUに関していくつかの翻訳モデル目的の相関を特性化した。著者らは,いくつかの標準モデルが,ビーム探索バイアスから,あまり較正されず,利益を得る一方で,他のしばしば,よりロバストなモデル(自動計量スコア,雑音の多いチャネルモデル,および新しく提案された目的)が,提案した復号器を用いた探索量の増加から利益を得るが,ビーム探索バイアスは,そのような目的から得られた改善を制限する。従って,モデルが改善されると,改善はビーム探索または再ランク付けベースの方法に対する過剰信頼性によってマスクされる可能性があると主張する。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

パターン認識 , 人工知能

, , ,

前のページに戻る