BERTVision-質問応答のためのパラメータ効率的なアプローチ【JST・京大機械翻訳】

Jiang Siduo; Benge Cristopher; King William Casey

プレプリント

J-GLOBAL ID：202202219733669965 整理番号：22P0294822

BERTVision-質問応答のためのパラメータ効率的なアプローチ【JST・京大機械翻訳】

BERTVision -- A Parameter-Efficient Approach for Question Answering

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年02月24日プレプリントサーバーでの情報更新日： 2022年02月24日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

拡張BERT微調整の必要性を著しく低減する,質問応答のための高パラメータ効率的手法を提案した。この方法は,典型的なBERT推論中に廃棄される各BERT変圧器層の隠れ状態活性化からの情報を用いる。著者らの最良モデルは,訓練時間とGPUまたはTPU費用の分数で,最大BERT性能を達成した。性能は,BERTs予測でこのモデルをアンサンブルすることによってさらに改善される。さらに,より少ない訓練データを用いてQAスパンアノテーションに対して最適に近い性能を達成できることを見出した。著者らの実験は,このアプローチがスパンアノテーションだけでなく分類のためにもよく機能し,それはより広い範囲のタスクに拡張可能であることを示唆する。【JST・京大機械翻訳】

細胞生理一般 , 蛋白質・ペプチド一般 , 電気探査・検層

前のページに戻る