Pollux:グッドプット最適化深層学習のための共適応クラスタスケジューリング【JST・京大機械翻訳】

Qiao Aurick; Choe Sang Keun; Subramanya Suhas Jayaram; Neiswanger Willie; Ho Qirong; Zhang Hao; Ganger Gregory R.; Xing Eric P.

プレプリント

J-GLOBAL ID：202202220661763692 整理番号：21P0046033

Pollux:グッドプット最適化深層学習のための共適応クラスタスケジューリング【JST・京大機械翻訳】

Pollux: Co-adaptive Cluster Scheduling for Goodput-Optimized Deep Learning

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (8件)： , , , , , , ,
資料名：
発行年： 2020年08月27日プレプリントサーバーでの情報更新日： 2021年05月26日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

Polluxは,毎時レベルおよびクラスタ全体レベルで相互依存因子を適応的に共最適化することにより,深層学習(DL)クラスタにおけるスケジューリング性能を改善する。ほとんどの既存のスケジューラは,ユーザが各ジョブの資源数を指定することを期待し,しばしば非効率的な資源利用につながる。いくつかの最近のスケジューラは,ユーザのためのジョブ資源を選択するが,DL訓練が提供資源をより良く利用するために再最適化できるという認識なしでそうであった。Polluxは両方の側面を同時に考慮する。訓練中の各ジョブの状態を監視することにより,Polluxモデルは,それらの良い入力(新しいメトリックが統計的効率でシステムスループットを組み合わせることを導入する)が,資源を追加または除去することによって変化するであろう。これらの情報,Polluxは動的に(再)資源をクラスタ化し,公平性を尊重し,各DLジョブを継続的に最適化し,それらの資源をよりよく活用する。実際のDLジョブとトレース駆動シミュレーションによる実験において,Polluxは,あらゆるジョブに対して理想的な資源と訓練構成を提供する場合でも,最先端のDLスケジューラと比較して,平均ジョブ完了時間を37~50%削減する。Polluxは,有用なジョブ進展のより意味のある測度に基づく資源に対して競合するDLジョブ間の公平性を促進し,クラウド環境におけるDLコストを低減するための新しい機会を明らかにした。Polluxは,https://github.com/petuum/adaptdlでのオープンソースプロジェクトの一部として実装され,公開されている。【JST・京大機械翻訳】

, , , , , , ,
, , , , , , 【Automatic Indexing@JST】

計算機網 , オペレーティングシステム

, , , ,

前のページに戻る