文献

J-GLOBAL ID：202002271387467004   整理番号：20A2637767

反復同期アプリケーションのためのCEFS計算効率の良いフロースケジューリング【JST・京大機械翻訳】

CEFS compute-efficient flow scheduling for iterative synchronous applications

著者 (4件)： Wang Shuai (Tsinghua University) ,  Li Dan (Tsinghua University) ,  Zhang Jiansong (Alibaba Group) ,  Lin Wei (Alibaba Group)
資料名： ACM Proceedings  (ACM Proceedings)
号： CoNEXT ’20  ページ： 136-148  発行年： 2020年 
JST資料番号： D0698C  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： 反復同期アプリケーション(ISApps)は,分散深層学習(DL)訓練によって表現される今日のデータセンターにおいて一般的である。ISAppでは,複数のノードは,各反復における結果をグローバルに同期して,反復的に計算タスクを実行する。ISAppのスケーリング効率を高めるために,本論文では,CEFSと呼ばれる新しいフロースケジューリング手法を提案した。CEFSは,2つの側面から計算ノードの待ち時間を節約する。単一ノードに対して,ノードで以前の計算をトリガできるデータを有するフローを,より高い優先度で割り当てる。ノード間で,より遅いノードへの流れは,より高い優先度で割り当てられる。実システムにおけるCEFS実現の課題に取り組むために,例えば,商品スイッチに関する優先待ち行列の限られた数,2つのタイプの優先度の組合せ,および種々の応用とハードウェア環境への適応,著者らは,二次元順序保存規則を満たすオンラインBayes最適化ベースの優先順位割当てアルゴリズムを設計した。CEFSプロトタイプを実装し,16ノードGPU/RoCEv2テストベッドにより,典型的なDLモデルとNS-3シミュレーションの訓練によりCEFSを評価した。10sorFlowと2つの代表的スケジューリングソリューションと比較して,TicTacとByteScheuler,CEFSは,訓練スループットを,それぞれ253%,252%と47%まで改善する。さらに,TensorFlow,TicTac,ByteScheduler,およびCEFSの下の16ノードシステムのスケーリング効率は,それぞれ,26.6%≦46.9%,26.7%≦47.0%,63.9%≦80.3%,および92.9%≦94.7%であった。NS-3シミュレーション結果は,CEFSが大規模で類似のスケーリング効率を達成できることを示した。Please refer to this article’s citation page on the publisher website for specific rights information. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： アルゴリズム ,  最適化 ,  シミュレーション ,  計算機シミュレーション ,  *スケジューリング ,  データセンタ ,  *応用プログラム ,  ハードウェア ,  二次元 ,  スループット ,  待ち時間 ,  優先度 ,  プロトタイプ
準シソーラス用語： *計算効率 ,  オンライン ,  深層学習 , 【Automatic Indexing@JST】

著者キーワード (4件)： コルドコンピューティング ,  データセンタネットワーク ,  フロースケジューリング ,  反復同期アプリケーション

分類 (2件)： オペレーティングシステム  (JD03020J) ,  ディジタル計算機方式一般  (JC02010O)

タイトルに関連する用語 (5件)： 反復 ,  アプリケーション ,  計算効率 ,  フロー ,  スケジューリング