文献

J-GLOBAL ID：202502283449645468   整理番号：25A0473575

Cerebras CS-2におけるプロセッシングエレメント間の通信性能評価

著者 (2件)： 福岡伶音 (明治大 理工) ,  宮島敬明 (明治大 理工)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2024  号： ARC-259  ページ： Vol.2024-ARC-259,No.13,1-9 (WEB ONLY)  発行年： 2024年12月09日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： Cerebras CS-2は,300mmウェハを1つのチップとして利用したWafer Scale Engine-2(WSE-2)を搭載した大規模深層学習向けアクセラレータである。WSE-2には約85万個のプロセッシングエレメント(PE)が搭載され,それぞれは2次元メッシュで接続されている。PE間のメモリの一貫性は保証されないため,CS-2を科学技術計算に利用する際は1つの分散並列システムとして扱うことになる。科学技術計算に頻出する集団通信などの通信パターンはCS-2でも実行可能だが,その特性理解は進んでおらず,基礎的な性能評価が必要である。本稿では,WSE-2における各種1次元通信パターン(2PE間通信レイテンシ,バイセクションバンド幅,Broadcast,Gather,Scatter,Reduce,AllReduce,AllReduce,Alltoall通信)の所要時間の測定とモデル化を行った。(著者抄録)

シソーラス用語： *深層学習 ,  大規模 ,  *ハードウェアアクセラレータ ,  性能 ,  分散処理 ,  並列処理 ,  計算
準シソーラス用語： *WSE-2 ,  *プロセッシングエレメント ,  科学技術計算 ,  通信性能 ,  分散並列処理

分類 (1件)： 専用演算制御装置  (JC04030Y)

タイトルに関連する用語 (5件)： Cs ,  プロセッシング ,  エレメント ,  通信性能 ,  評価