文献

J-GLOBAL ID：202202254148736654   整理番号：22A0984440

深層学習作業負荷の下でのNVIDIAGPUのための同時実行機構の特性化【JST・京大機械翻訳】

Characterizing Concurrency Mechanisms for NVIDIA GPUs under Deep Learning Workloads (Extended Abstract)

著者 (2件)： Gilman Guin (Worcester Polytechnic Institute, Worcester, MA, USA) ,  Walls Robert J. (Worcester Polytechnic Institute, Worcester, MA, USA)
資料名： ACM SIGMETRICS Performance Evaluation Review  (ACM SIGMETRICS Performance Evaluation Review)
巻： 49  号： 3  ページ： 32-34  発行年： 2022年 
JST資料番号： W5730A  ISSN： 0163-5999  資料種別： 逐次刊行物 (A)
記事区分： 原著論文  発行国： アメリカ合衆国 (USA)  言語： 英語 (EN)

抄録/ポイント： Hazelwoodらは,Facebookデータセンターにおいて,ユーザ活動の変化(例えば,日負荷による)が,アイドリング資源[4]の大きなプールによる低い利用期間をもたらすことを観察した。これらの資源を利用するために,機械学習訓練タスクを用いて提案した。また,GPUベースの推論[1]と訓練[6]の両方を用いるとき,個々のGPUsのスケールで,alagousな低利用期間が観察された。この後者の問題に対する提案解は,単一GPU上で付加的推論または訓練タスクを協調した。ブラックボックスとして処理するよりも,マイクロアーキテクチュラルレベルでGPUを考慮することにより,これらの以前の研究よりもステップをさらに進める。広く,著者らは,待ち時間に敏感な推論要求のための予測可能かつ低ターンアラウンド時間を保証するのに十分な現在のGPUアプリケーションとブロックレベルスケジューリングメカニズム,また,最良エフォート訓練タスクのための非占有資源の使用を一貫して行うことを考察した。この疑問に答えるために,NVIDIAの同時発生メカニズムと作業負荷自体の特性の両方を調べた。本解析のコンプリメンテーションでは,NVIDIAスケジューリング階層は独特であり,いくつかのメカニズム(例えば,時間-スライシング)はよく証明されていないので,それらの挙動は経験的観測からリバースエンジニアリングしなければならない。Please refer to this article’s citation page on the publisher website for specific rights information. Translated from English into Japanese by JST.【JST・京大機械翻訳】

シソーラス用語： スケジューリング ,  資源 ,  データセンタ ,  ブラックボックス ,  アイドリング ,  ターンアラウンド時間 ,  応用プログラム ,  負荷 ,  待ち時間 ,  キャラクタリゼーション ,  同時発生 ,  *推論 ,  機械学習 ,  リバースエンジニアリング
準シソーラス用語： *深層学習 , 【Automatic Indexing@JST】

分類 (4件)： 人工知能  (JE08000Z) ,  パターン認識  (JE07000S) ,  オペレーティングシステム  (JD03020J) ,  計算機システム開発  (JD02010R)

タイトルに関連する用語 (3件)： 深層学習 ,  作業負荷 ,  特性化