注意,記憶および生成:少数ショットにおける忠実なテーブルツーテキスト生成に向けて【JST・京大機械翻訳】

Zhao Wenting; Liu Ye; Wan Yao; Yu Philip S.

プレプリント

J-GLOBAL ID：202202218107959670 整理番号：22P0297382

注意,記憶および生成:少数ショットにおける忠実なテーブルツーテキスト生成に向けて【JST・京大機械翻訳】

Attend, Memorize and Generate: Towards Faithful Table-to-Text Generation in Few Shots

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年03月01日プレプリントサーバーでの情報更新日： 2022年03月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

少数のショットテーブルツーテキスト生成は,限られたデータを使用してテーブルコンテンツを伝えるために,フルレントで忠実な文章を構成するタスクである。強力な事前訓練言語モデルを微調整することにより,印象的な合流文を生成する多くの努力にもかかわらず,生成されたコンテンツの忠実性は,まだ改善する必要がある。この目的のために,本論文では,人間のテキスト生成過程により触発された,新しいアプローチ,MemorizeおよびGenerate(AMGと呼ぶ)を提案した。特に,テーブル構造と自然言語情報の両方を利用するために,テーブルスロットレベルおよび従来のトークンごとのレベル注意に基づく新戦略を用いて,AMG(1)は文脈の多粒状性に着目する。(2)テーブルスロット割当て状態を動的に記憶する。(3)コンテキストとメモリ割当状態の両方に従って忠実な文章を生成する。Wikiデータセットの3つの領域(すなわち,人間,歌,および書籍)に関する人間評価による総合的実験は,著者らのモデルが,フルージェンシーと忠実性の両方において,いくつかの最先端のベースラインと比較して,より高い資格のあるテキストを作り出すことができることを示した。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , , 【Automatic Indexing@JST】

自然語処理

前のページに戻る