文献

J-GLOBAL ID：201702222960087022   整理番号：17A1773398

大規模弱教師つきビジョンのための専門家の硬混合物【Powered by NICT】

Hard Mixtures of Experts for Large Scale Weakly Supervised Vision

著者 (3件)： Gross Sam ,  Ranzato Marc’Aurelio ,  Szlam Arthur
資料名： IEEE Conference Proceedings  (IEEE Conference Proceedings)
巻： 2017  号： CVPR  ページ： 5085-5093  発行年： 2017年 
JST資料番号： W2441A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： ミニバッチ確率的勾配降下法を用いた単一GPU上で適合する訓練畳込みネットワーク(CNN)は実際に有効になってきた。しかし,数GPUカードの記憶,あるいは並列CNN訓練のための適合しない大規模ネットワークを訓練するための有効な方法をしていない。本研究では,専門家モデルの単純なハード混合物は大規模ハッシュタグ(多標識)予測タスクに良い影響するように訓練できることを示した。エキスパートモデルの混合物は新しいものではない[7+3]が,過去に,研究者はデータフラグメンテーションを扱うために洗練された方法を考案することであった。各データ点は単一エキスパートに帰属される現代の弱教師つきデータセットは,単純な分割スキームを支援するのに十分大きいことを経験的に示した。専門家に依存しないので,並列に訓練が容易であり,モデルのサイズのための安価な評価。さらに,すべての専門家のための単一復号化層を用いる,統一された特徴埋め込み空間を可能にすることを示した。は標準CNNアーキテクチャを用いて訓練された実用化よりもはるかに大きいモデルを訓練することが可能である(および実際に比較的無痛),余分の容量は現在のデータセットに使用できることを示した。Copyright 2017 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

シソーラス用語： 畳込み ,  予測 ,  ネットワーク ,  計算機アーキテクチャ ,  復号化 ,  無痛 ,  *最急降下法 ,  モデル
準シソーラス用語： 低価格 ,  大規模ネットワーク , 【Automatic Indexing@JST】

分類 (5件)： 計算機システム開発  (JD02010R) ,  建設施工一般  (RA07010Z) ,  発生と分化  (EJ16020W) ,  臨床診断学  (GC03003G) ,  研究開発  (SA01040R)

タイトルに関連する用語 (4件)： 大規模 ,  教師 ,  ビジョン ,  混合物