動的オーディオビジュアルシナリオにおける質問応答の学習【JST・京大機械翻訳】

Li Guangyao; Wei Yake; Tian Yapeng; Xu Chenliang; Wen Ji-Rong; Hu Di

プレプリント

J-GLOBAL ID：202202217346177415 整理番号：22P0310722

動的オーディオビジュアルシナリオにおける質問応答の学習【JST・京大機械翻訳】

Learning to Answer Questions in Dynamic Audio-Visual Scenarios

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年03月26日プレプリントサーバーでの情報更新日： 2022年04月05日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

本論文では,ビデオにおける異なる視覚オブジェクト,音,およびそれらの関連に関する質問に答えることを目的として,Audio-Visual Quession Answing(AVQA)タスクに焦点を当てた。この問題は,オーディオビジュアルシーン上の包括的なマルチモーダル理解と時空間推論を必要とする。このタスクをベンチマークし,研究を容易にするため,異なるモダリティと質問タイプにわたる33の異なる質問テンプレートをカバーする45K以上の質問-回答ペアを含む大規模MUSIC-AVQAデータセットを導入した。AVQA問題に対して,いくつかのベースラインを開発し,時空間接地オーディオビジュアルネットワークを導入した。著者らの結果は,AVQAがマルチセンサ知覚から利益を得て,著者らのモデルが最近のA-,V-,およびAVQAアプローチより優れていることを実証した。構築したデータセットは,オーディオビジュアルシーン理解と時空間推論における進展の評価と促進のためのテストベッドとして役立つ可能性があると信じる。コードとデータセット:http://gewu lab.github.io/MUSIC AVQA/;【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能 , 情報サービス , 自然語処理 , その他の情報処理 , 医用情報処理

, , ,

前のページに戻る