確率的注意によるニューラルプロセス:文脈データ集合へのより注意を払う【JST・京大機械翻訳】

Kim Mingyu; Go Kyeongryeol; Yun Se-Young

プレプリント

J-GLOBAL ID：202202201930887218 整理番号：22P0329871

確率的注意によるニューラルプロセス:文脈データ集合へのより注意を払う【JST・京大機械翻訳】

Neural Processes with Stochastic Attention: Paying more attention to the context dataset

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2022年04月11日プレプリントサーバーでの情報更新日： 2022年04月11日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

ニューラルプロセス(NP)は,与えられたコンテキストデータセットに基づく確率的に完全なデータポイントを目標とする。NPは,新しいタスクのための適切な識別子を導出するためのコンテキスト表現として,与えられたデータセットを本質的に活用する。予測精度を改善するために,NPの多くのバリアントは,通常,新しいネットワークアーキテクチャと置換不変量を満足する凝集機能を設計する文脈埋込みアプローチを研究した。本研究では,適切なコンテキスト情報を捕捉するためのNPの確率的注意機構を提案した。情報理論の展望から,提案手法は,ターゲットデータセットから識別するコンテキスト埋込みを奨励し,NPがターゲットデータセットと文脈埋込みにおける特徴の考慮を可能にすることを示した。提案手法は,雑音のあるデータセットと制約されたタスク分布の下でもコンテキスト埋込みを適切に捉えることができ,そこでは典型的なNPがコンテキスト埋込みの欠如に悩まされることを観測した。このアプローチが,1D回帰,捕食者-被食者モデル,および画像完了を通して,様々なドメインで従来のNPよりも実質的に優れていることを経験的に示した。さらに,提案した方法を,実世界問題,MovieLens-10kデータセットにより検証した。【JST・京大機械翻訳】

, , , , , , , , ,
, , , 【Automatic Indexing@JST】

パターン認識 , 図形・画像処理一般

, , ,

前のページに戻る