文献

J-GLOBAL ID：202002240967960049   整理番号：20A1865814

深層学習のためのGandiva検査クラスタスケジューリング【JST・京大機械翻訳】

Gandiva introspective cluster scheduling for deep learning

著者 (12件)： Xiao Wencong (Beihang University and Microsoft Research) ,  Bhardwaj Romil (Microsoft Research) ,  Ramjee Ramachandran (Microsoft Research) ,  Sivathanu Muthian (Microsoft Research) ,  Kwatra Nipun (Microsoft Research) ,  Han Zhenhua (The University of Hong Kong and Microsoft Research) ,  Patel Pratyush (Microsoft Research) ,  Peng Xuan (Huazhong University of Science and Technology and Microsoft Research) ,  Zhao Hanyu (Peking University and Microsoft Research) ,  Zhang Quanlu (Microsoft Research) ,  Yang Fan (Microsoft Research) ,  Zhou Lidong (Microsoft Research)
資料名： ACM Proceedings  (ACM Proceedings)
号： OSDI’18  ページ： 595-610  発行年： 2018年 
JST資料番号： D0698C  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： GPUクラスタにおける訓練深層学習モデルの待ち時間と効率を改善するために,ドメイン固有知識を利用する新しいクラスタスケジューリングフレームワークであるGandivaを導入した。深層学習の1つの重要な特徴は,フィードバック駆動探査であり,そこでは,ユーザは,特定の任務のために最良の結果を達成して,動的に優先順位を動的に優先順位付けするか,または,ジョブの部分集合を殺すために,初期フィードバックを使用するために,しばしば一連のジョブ(またはマルチジョブ)を実行する。全マルチジョブの同時初期フィードバックは,重要である。第2の特徴は,資源利用の観点から深層学習ジョブの不均一性であり,先験的に最良適合を達成することを困難にする。Gandivaは,ミニバッチ反復と呼ばれる多数の反復を実行するので,深い学習の3番目の鍵特性を利用することによって,これらの2つの課題に対処する。Gandivaは,複数ジョブを横断して効率的にタイムスライスGPUsにイントラジョブ予測可能性を利用し,それによって低待ち時間を配信する。また,この予測可能性を用いて,ジョブパフォーマンスと動的移動ジョブを,より良い適合GPUに導入し,それによってクラスタ効率を改善した。プロトタイプ実装とマイクロベンチマークにより,Gandivaが,深い学習中のハイパーパラメータ探索を1桁まで高速化し,より良いジョブツーリソース適合を達成するために,透明移動と時間スライシングジョブにより,より良い利用を達成することを示した。また,180-GPUクラスタで走行するジョブの実作業負荷において,Gandivaは,集約クラスタ利用を26%改善し,深い学習のために大きなGPUクラスタを管理する新しい方法を示した。Please refer to this article’s citation page on the publisher website for specific rights information. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： *学習 ,  *スケジューリング ,  *クラスタ ,  待ち時間 ,  不均一性 ,  高速化 ,  予測可能性 ,  プロトタイプ
準シソーラス用語： マイクロベンチマーク ,  GPUクラスタ ,  マルチジョブ ,  ハイパーパラメータ ,  *深層学習 , 【Automatic Indexing@JST】

分類 (2件)： オペレーティングシステム  (JD03020J) ,  人工知能  (JE08000Z)

タイトルに関連する用語 (4件)： 深層学習 ,  検査 ,  クラスタ ,  スケジューリング