抄録/ポイント:
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
分散深層学習(DDL)の進歩により,近年,DDL計算ジョブを処理するための資源集約型分散/並列計算に対する急速に成長している需要が目撃されている。分散コンピューティングにおけるネットワーク通信ボトルネックと負荷分散課題を解決するため,専用パラメータサーバの必要性を取り除くために,いわゆる「リング-オール縮小」分散アーキテクチャをますます採用した。しかし,今日まで,計算クラスタにおけるリング-オール-再生産DDLジョブを効率的にスケジューリングするための資源最適化アルゴリズムを設計する方法に関する理論的理解が不足している。これは,リングオールリダクションDDLジョブのための一連の新しい資源スケジューリング設計を提案することによって,このギャップを埋めることを動機づける。本論文における貢献は,3倍である:i)著者らは,DDL性能最適化(例えば,過剰訓練回避,エネルギー効率,公平性)における広範囲の目的をカバーする,リングオールリダクション深層学習のための新しい資源スケジューリング解析モデルを提案する。ii)提案した性能解析モデルに基づいて,GADGETと呼ばれる効率的な資源スケジューリングアルゴリズム(集合リング-オール-リデュース分散グラフ埋込み技術)を開発し,それは証明可能な強力な性能保証を楽しむ。iii)大規模なトレース駆動実験を行い,GADGET手法の有効性と最先端技術の優位性を実証した。【JST・京大機械翻訳】