サンプル効率的なトレーニングと包括的評価のための構造的に多様なサンプリング【JST・京大機械翻訳】

Gupta Shivanshu; Singh Sameer; Gardner Matt

プレプリント

J-GLOBAL ID：202202217734522280 整理番号：22P0305095

サンプル効率的なトレーニングと包括的評価のための構造的に多様なサンプリング【JST・京大機械翻訳】

Structurally Diverse Sampling for Sample-Efficient Training and Comprehensive Evaluation

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年03月16日プレプリントサーバーでの情報更新日： 2022年11月01日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

成長している研究は,構成的に一般化するNLPモデルの不安定性を実証し,他のアプローチの中で,特殊化されたアーキテクチャ,訓練方式,およびデータ増強を通してそれを軽減することを試みた。本研究では,様々なアプローチ:多様な構造のインスタンスに関する訓練を研究した。構造化出力を持つラベル付きインスタンスプールからインスタンスのそのような集合をサブサンプリングするためのモデル診断アルゴリズムを提案した。構成テンプレート分割と様々な複雑性の5つの意味構文解析データセットの伝統的IID分割の両方について評価して,著者らは,著者らのアルゴリズムを使用する構造的に多様な訓練が,10のデータセット分割型ペアの9つにおいて,以前のアルゴリズムより同等かより良い一般化に導くことを示した。一般的に,ランダム列車セットと比較して,サンプル効率の一貫性を一貫して改善する構造多様性を見出した。さらに,構造的に多様なサンプリングは,IIDテストセットよりも非常に挑戦的な包括的なテストセットを生成することを示した。最後に,多様な列車集合からの一般化改善のための2つの説明を提供した。1)出力サブ構造の被覆率の改善,2)これらのサブ構造間の偽相関の低減。【JST・京大機械翻訳】

, , , , , , , , , ,
, , , 【Automatic Indexing@JST】

パターン認識 , 人工知能

, , ,

前のページに戻る