機械読み取り理解におけるロバスト性を改善するための較正器の使用【JST・京大機械翻訳】

Jin Jing; Wang Houfeng

プレプリント

J-GLOBAL ID：202202204897788127 整理番号：22P0294477

機械読み取り理解におけるロバスト性を改善するための較正器の使用【JST・京大機械翻訳】

Using calibrator to improve robustness in Machine Reading Comprehension

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年02月23日プレプリントサーバーでの情報更新日： 2022年02月23日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

BERTのようないくつかの強力なモデルが提案されているので,機械読取り(MRC)は顕著な結果を達成した。しかし,これらのモデルは,敵対的入力摂動と一般化例に対して十分にロバストで,脆弱ではない。いくつかの研究は,データ分布のシフトがモデル信頼性のソフトマックス確率に基づく回答ランキングを行うので,訓練データにいくつかの関連例を加えることによって,データの特定タイプに関する性能を改良することを試みた。本論文では,XGBoostモデルに基づいて実装された事後再ランク付け器としてキャリブレータを用いることによりロバスト性を改善する方法を提案した。キャリブレータは,候補結果をランク付けするために,手動特徴と表現学習特徴の両方を組み合わせる。敵対的データセットに関する実験結果は,著者らのモデルが10%以上の性能改良を達成することができて,また,オリジナルおよび一般化データセットに関して改良もできることを示した。【JST・京大機械翻訳】

, , , ,
, , 【Automatic Indexing@JST】

人工知能 , パターン認識

, , ,

前のページに戻る