健康転帰発生のための位置ベース促進【JST・京大機械翻訳】

Abaho M.; Bollegala D.; Williamson P.; Dodd S.

プレプリント

J-GLOBAL ID：202202202301741940 整理番号：22P0327911

健康転帰発生のための位置ベース促進【JST・京大機械翻訳】

Position-based Prompting for Health Outcome Generation

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (4件)： , , ,
資料名：
発行年： 2022年03月30日プレプリントサーバーでの情報更新日： 2022年03月30日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

即座を用いた事前訓練言語モデル(PLM)のプロービングは,言語モデル(LM)が知識ベースとして処理できることを間接的に暗示している。この目的のために,特にこれらのLMが特定の領域のデータではなく,また即座自体のスタイルまたは言語パターンに対して微調整された場合,この現象は特に有効である。即座における特定の言語パターンを満たすことは,特に手動で設計され,可能な迅速なテンプレートパターンの範囲が,迅速な目的と領域に依存して変化するので,プロービングタスクを必然に延長する,非持続可能な制約であることを観察した。したがって,著者らは,満たされるマスクに対して即座に各単語の位置情報を捕えるための位置-注意機構の使用のアイデアを探索し,従って,迅速な言語的パターンが変化するとき,再構成する必要性を回避する。本アプローチを用いて,著者らは,希少な迅速なテンプレート(健康結果生成に関する事例研究において)を,Postfixおよび混合パターンのような,その欠測情報が,それぞれ,開始時および迅速な複数のランダム場所において,それぞれ,誘導する能力を実証した。さらに,様々な生物医学的PLMを用いて,著者らのアプローチは,デフォルトマスク言語モデル(MLM)表現がマスクトークンを予測するために使用されるベースラインよりも一貫して優れている。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , 【Automatic Indexing@JST】

パターン認識 , 自然語処理

前のページに戻る