検索強化による教師なしクロスタスク一般化【JST・京大機械翻訳】

Lin Bill Yuchen; Tan Kangmin; Miller Chris; Tian Beiwen; Ren Xiang

プレプリント

J-GLOBAL ID：202202211340452645 整理番号：22P0333225

検索強化による教師なしクロスタスク一般化【JST・京大機械翻訳】

Unsupervised Cross-Task Generalization via Retrieval Augmentation

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (5件)： , , , ,
資料名：
発行年： 2022年04月17日プレプリントサーバーでの情報更新日： 2022年10月17日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

人間は,以前に得られた関連スキルを思い出し,次に,それらに監督がないとしても,それらを目標タスクに一般化することにより,不調なタスクを実行することができる。本論文では,教師なし設定において,T0およびFLANのような大規模マルチタスク言語モデルのこの種のクロスタスク汎化能力を改善することを目指した。著者らは,上流データの小部分集合を検索し,より良い一般化のためにマルチタスクモデルを更新するために,クエリとしていくつかのラベルなし用例を取り入れるReCrossと呼ぶ検索-認証方法を提案した。ReCrosは,効率的な高密度検索と効果的なペアワイズ再ランク付けの両方を組み合わせた,直接的だが効果的な検索方法である。著者らの結果と解析は,それが非検索方法と他のベースライン方法の両方を著しく凌ぐことを示した。【JST・京大機械翻訳】

, , , , ,
, , , , 【Automatic Indexing@JST】

人工知能 , 情報検索一般 , 検索技術

, , , ,

前のページに戻る