マルチタスク学習のための分岐への学習【JST・京大機械翻訳】

Guo Pengsheng; Lee Chen-Yu; Ulbricht Daniel

プレプリント

J-GLOBAL ID：202202205526558133 整理番号：22P0154576

マルチタスク学習のための分岐への学習【JST・京大機械翻訳】

Learning to Branch for Multi-Task Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (3件)： , ,
資料名：
発行年： 2020年06月02日プレプリントサーバーでの情報更新日： 2020年06月09日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

1つの深いネットワークにおける訓練多重タスクは,ネットワークの特定層を共有することにより,単一タスク対応物よりも推論中の待ち時間とより良い性能を,同時に削減する。しかし,ネットワークの過剰共有は過一般化を誤って強化し,タスクを横断して負の知識移転を引き起こす。先行研究は,アドホック分岐構造に対する人間直感または事前計算タスク関連性スコアに依存する。それらは準最適エンド結果を提供し,しばしば試行錯誤プロセスのための巨大な努力を必要とする。本研究では,ネットワーク内の共有または分岐を学習する自動マルチタスク学習アルゴリズムを提示し,タスクを横断して複数の目的に対して直接最適化する効果的なネットワークトポロジーを設計した。特に,筆者らは,ツリー分岐操作をガムベルソフトマックスサンプリング手順としてキャストする,新しいツリー構造設計空間を提案した。これにより,エンドツーエンド訓練可能な異なるネットワーク分割が可能になった。著者らは,制御合成データ,CelebA,およびタスクノミーに関する提案方法を検証した。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る