神経テキストジェネレータのための復号化戦略について【JST・京大機械翻訳】

Wiher Gian; Meister Clara; Cotterell Ryan

プレプリント

J-GLOBAL ID：202202214435253711 整理番号：22P0312371

神経テキストジェネレータのための復号化戦略について【JST・京大機械翻訳】

On Decoding Strategies for Neural Text Generators

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月29日プレプリントサーバーでの情報更新日： 2022年03月29日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

確率モデルからテキストを生成するとき,選ばれた復号化戦略は,結果としてのテキストに大きい影響を及ぼす。しかし,様々な復号化戦略によって引き出される特性は,自然言語生成タスクを通して常に移動しない。例えば,ビーム探索のようなモード探索方法は,機械翻訳のために著しくよく機能するが,それらは層生成におけるインコヒーレントおよび反復テキストに導くことが観察された。そのような観察にもかかわらず,復号戦略の有効性は,単一タスクだけに関してしばしば評価される。本研究では,言語生成タスクと復号化戦略の間の相互作用の包括的な解析を行う。特に,著者らは,人間と自動評価を用いて,復号戦略とタスクの両方の関数として生成されたテキストの属性における変化を測定する。結果は,以前に観察および驚くべき所見の両方を明らかにした。例えば,言語生成における多様性品質トレードオフの性質は非常にタスク特異的である。ビーム探索にしばしば起因する長さバイアスは,タスクを通して一定ではない。【JST・京大機械翻訳】

, , , , ,
, , , , 【Automatic Indexing@JST】

自然語処理

, , ,

前のページに戻る