アダプタ:言語モデルのための目的中心適応フレームワーク【JST・京大機械翻訳】

Stefanik Michal; Novotny Vit; Groverova Nikola; Sojka Petr

プレプリント

J-GLOBAL ID：202202204996933708 整理番号：22P0300639

アダプタ:言語モデルのための目的中心適応フレームワーク【JST・京大機械翻訳】

Adaptor: Objective-Centric Adaptation Framework for Language Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年03月08日プレプリントサーバーでの情報更新日： 2022年05月20日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

自然言語処理研究の進歩は,広範なソフトウェアフレームワークによって与えられる可能性によって触媒される。本論文では,事前訓練+微調整ステップからなる従来のモデル中心アプローチを客観的中心アプローチに転送するAdaptorライブラリを導入し,選択した目的の適用による訓練プロセスを構成した。著者らは,マルチタスク訓練,カスタム目的開発,動的訓練カリキュラム,またはドメイン適応における強化目的中心実験から利益を得ることができる研究方向を調査した。アダプターは,実際にこれらの研究方向の再現性を容易化することを目的とした。最後に,選択した教師なしドメイン適応シナリオにおけるアダプターの実用性を実証した。【JST・京大機械翻訳】

, , , , , , , , , , , ,
, , , 【Automatic Indexing@JST】

人工知能 , 自然語処理

, , ,

前のページに戻る