長期物語上の微分可能推論-ニューラルモデルにおける系統的一般化の評価【JST・京大機械翻訳】

Li Wanshui; Minervini Pasquale

プレプリント

J-GLOBAL ID：202202204189634810 整理番号：22P0307270

長期物語上の微分可能推論-ニューラルモデルにおける系統的一般化の評価【JST・京大機械翻訳】

Differentiable Reasoning over Long Stories -- Assessing Systematic Generalisation in Neural Models

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年03月20日プレプリントサーバーでの情報更新日： 2022年03月20日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

現代のニューラルネットワークは,多くの局面で一連の開発と成功を達成した。しかし,訓練分布外のデータに曝露すると,それらは正しい回答を予測することができない。本研究では,この一般化問題について関心があり,従って,長階にわたって系統的かつロバストに広範囲のモデルを解析した。関連する実験を,CLUTRRに基づいて行い,それは,小さな物語グラフ上の訓練による自然言語理解(NLU)システムの一般化を分析できる診断ベンチマークセットであり,より大きなものについて試験する。マルチ関係層グラフを処理するために,著者らは,2つのクラスのニューラルモデル,すなわち,グラフ構造データを処理できるグラフベースモデル,およびエッジ属性を同時に考察する。そして,グラフの線形化バージョンを処理できるシーケンスベースのモデルである「L-グラフ」である。広範な経験的評価を行い,修正再帰ニューラルネットワークが,修正グラフニューラルネットワークより優れた性能を持つ,全ての系統的一般化タスクにわたって驚くほど正確な結果をもたらし,一方,後者はよりロバストなモデルを生成することを見出した。【JST・京大機械翻訳】

, , , , , , ,
, , , , 【Automatic Indexing@JST】

人工知能 , グラフ理論基礎

, , , , , , ,

前のページに戻る