グランドトルースラベルなしの迅速エンジニアリングへの情報理論的アプローチ【JST・京大機械翻訳】

Sorensen Taylor; Robinson Joshua; Rytting Christopher Michael; Shaw Alexander Glenn; Rogers Kyle Jeffrey; Delorey Alexia Pauline; Khalil Mahmoud; Fulda Nancy; Wingate David

プレプリント

J-GLOBAL ID：202202211710817575 整理番号：22P0308014

グランドトルースラベルなしの迅速エンジニアリングへの情報理論的アプローチ【JST・京大機械翻訳】

An Information-theoretic Approach to Prompt Engineering Without Ground Truth Labels

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (9件)： , , , , , , , ,
資料名：
発行年： 2022年03月21日プレプリントサーバーでの情報更新日： 2022年03月21日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

※このプレプリント論文は学術誌に掲載済みです。なお、学術誌掲載の際には一部内容が変更されている可能性があります。

事前訓練された言語モデルは,それらが訓練された大規模コーパスから実質的な言語的および事実的知識を導き,そして,迅速な工学は,これらのモデルを特定のタスクに整列させることを追求する。残念なことに,既存の迅速な工学的方法は,ラベル付きデータ,モデルパラメータへのアクセス,あるいはその両方を必要とする。ラベル付き例のない迅速なテンプレートを選択し,モデルに直接アクセスしない新しい方法を導入した。具体的には,一連の候補テンプレート上で,入力と対応するモデル出力の間の相互情報を最大化するテンプレートを選択した。7つの異なるNLPタスクを表す8つのデータセットを通して,著者らは,テンプレートが高い相互情報を持つとき,それはまた,タスクに関して高精度を有することを示した。最大モデルに関して,著者らの方式による迅速な選択は,平均迅速な精度から最良の迅速精度までの方法の90%を得て,グラウンドトルースラベルを必要としない。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能 , 自然語処理

前のページに戻る