動的多モード融合【JST・京大機械翻訳】

Xue Zihui; Marculescu Radu

プレプリント

J-GLOBAL ID：202202212081559157 整理番号：22P0323599

動的多モード融合【JST・京大機械翻訳】

Dynamic Multimodal Fusion

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年03月31日プレプリントサーバーでの情報更新日： 2023年04月06日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

深層マルチモーダル学習は近年大きな進歩を達成した。しかし,現在の融合手法は,本質的に,異なるマルチモーダルデータの多様な計算要求を説明することなく,同一の計算でマルチモーダル入力を処理し,融合する。本研究では,マルチモーダルデータを適応的に融合し,推論中にデータ依存前方経路を生成する新しいアプローチである動的マルチモーダル融合(DynMM)を提案した。この目的のために,マルチモーダル特徴および計算効率を奨励する資源意識損失関数に基づいて,モダリティレベルまたは融合レベル決定を提供するゲーティング機能を提案した。種々のマルチモーダルタスクの結果は,著者らのアプローチの効率と広い適応性を実証した。例えば,DynMMは,無視できる精度損失(CMU-MOSEI感情解析)だけで,計算コストを46.5%低減でき,静的融合手法と比較して,計算(NYU深さV2意味セグメンテーション)で21%以上の節約でセグメンテーション性能を改善した。このアプローチが,広範囲のマルチモーダルタスクへの応用で,動的マルチモーダルネットワーク設計に向けて新しい方向を開くと信じる。【JST・京大機械翻訳】

, , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能

前のページに戻る