文献

J-GLOBAL ID：201502207265476239   整理番号：15A0725816

密結合並列演算加速機構TCAを用いたGPU間直接通信によるCollective通信の実装と予備評価

著者 (7件)： 松本和也 (筑波大 計算科学研究セ) ,  塙敏博 (東大 情報基盤セ) ,  児玉祐悦 (筑波大 計算科学研究セ) ,  児玉祐悦 (筑波大 大学院システム情報工学研究科) ,  藤井久史 (筑波大 大学院システム情報工学研究科) ,  朴泰祐 (筑波大 計算科学研究セ) ,  朴泰祐 (筑波大 大学院システム情報工学研究科)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2014  号： ARC-213  ページ： VOL.2014-ARC-213,NO.23 (WEB ONLY)  発行年： 2014年12月02日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 筑波大学計算科学研究センターでは,GPUクラスタにおけるノード間に跨るGPU間通信のレイテンシ改善を目的とした密結合並列演算加速機構TCA(Tightly Coupled Accelerators)を独自開発している。本稿では,Broadcast,Scatter,Gather,Reduce,Allgather,Allreduceの6つのCollective通信のTCAによる実装と,その性能をTCA実証環境のGPUクラスタであるHA-PACS/TCAにおいて評価した結果を述べる。TCAによる実装は通信レイテンシが問題となる小さめなサイズのCollective通信において,MPIによるCollective通信と比べて高速にその通信処理を行うことが可能であることを示す。実装したCollective通信の利用したCG法の実装およびその性能についても述べる。本研究で用いるCG法の並列アルゴリズムは,AllgatherとAllreduceをその通信部分に用いるものである。TCAによるCollective通信を用いたCG法実装は,疎行列のサイズ(行数)が数千から数万の場合ではMPIのCollective通信を用いた実装よりも高い性能を達成できることを示す。(著者抄録)

シソーラス用語： *相互結合網 ,  *マルチプロセッサシステム ,  マイクロプロセッサ ,  専用プロセッサ ,  並列演算 ,  高速演算方式 ,  スーパコンピュータ ,  プロセス間交信 ,  数値計算 ,  数値解析 ,  通信方式 ,  システムインタフェイス ,  並列処理
準シソーラス用語： GPU【プロセッサ】 ,  *GPUクラスタ ,  MPI【インタフェイス】

分類 (2件)： 計算機網  (JC03000K) ,  専用演算制御装置  (JC04030Y)

引用文献 (26件)：

• 塙敏博,児玉祐悦,朴泰祐,佐藤三久:Tightly Coupled Accelerators アーキテクチャに基づくGPUクラスタの構築と性能予備評価,情報処理学会論文誌.コンピューティングシステム,Vol.6,No.3,pp.14-25(2013).
• Hanawa, T., Kodama, Y., Boku, T. and Sato, M.: Tightly Coupled Accelerators Architecture for Minimizing Communication Latency among Accelerators, Proc. IPDPSW 2013, IEEE, pp. 1030-1039 (2013).
• 朴泰祐,佐藤三久,塙敏博,児玉祐悦,高橋大介,建部修見,多田野寛人,蔵増嘉伸,吉川耕司,庄司光男:演算加速装置に基づく超並列クラスタHA-PACSによる大規模計算科学,情報処理学会研究報告,Vol.2011-HPC-130,No.21,pp.1-7(2011).
• 藤井久史,藤田典久,塙敏博,児玉祐悦,朴泰祐,佐藤三久,藏増嘉伸,Clark,M.:GPu向けQCDライブラリQUDAのTCAアーキテクチャ実装の性能評価,情報処理学会研究報告,Vol.2014,No.43,pp.1-9(2014).
• 松本和也,塙敏博,児玉祐悦,藤井久史,朴泰祐:密結合並列演算加速機構TCAを用いたGPU間直接通信によるCG法の実装と予備評価,情報処理学会研究報告,Vol.HPC-144,No.12,情報処理学会,pp.1-9(2014).

タイトルに関連する用語 (6件)： 並列演算 ,  加速 ,  TCA ,  GPU ,  実装 ,  評価