抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
拡張BERT微調整の必要性を著しく低減する,質問応答のための高パラメータ効率的手法を提案した。この方法は,典型的なBERT推論中に廃棄される各BERT変圧器層の隠れ状態活性化からの情報を用いる。著者らの最良モデルは,訓練時間とGPUまたはTPU費用の分数で,最大BERT性能を達成した。性能は,BERTs予測でこのモデルをアンサンブルすることによってさらに改善される。さらに,より少ない訓練データを用いてQAスパンアノテーションに対して最適に近い性能を達成できることを見出した。著者らの実験は,このアプローチがスパンアノテーションだけでなく分類のためにもよく機能し,それはより広い範囲のタスクに拡張可能であることを示唆する。【JST・京大機械翻訳】