文献

J-GLOBAL ID：202402213769937409   整理番号：24A0685516

Cerebras CS-2におけるGEMMの性能評価

著者 (3件)： 松崎竜之介 (明治大 理工) ,  福岡伶音 (明治大 理工) ,  宮島敬明 (明治大 理工)
資料名： 情報処理学会研究報告(Web)  (IPSJ Technical Report (Web))
巻： 2024  号： HPC-193  ページ： Vol.2024-HPC-193,No.18,1-8 (WEB ONLY)  発行年： 2024年03月11日 
JST資料番号： U0451A  資料種別： 会議録 (C)
記事区分： 原著論文  発行国： 日本 (JPN)  言語： 日本語 (JA)

抄録/ポイント： 近年の計算機は演算性能が向上しているが,Byte/Flops値で表されるメモリ帯域と演算性能の比率は悪化し続けており,増大する消費電力も性能向上の阻害要因となっている。また,マルチノード環境では演算に比べて非常に長いノード間通信がボトルネックになり,スケーリングが問題となっている。Cerebras CS-2システムは,世界最大のチップWafer Scale Engine-2(WSE-2)を搭載する深層学習向けおよび高性能計算のためのアクセラレータである。WSE-2は2次元メッシュトポロジで接続された,745,500個の計算コアの分散メモリシステムと考えられる。本稿では,CS-2の大規模科学技術計算への適用可能性を理解するために,単精度浮動小数点GEMM(SGEMM)の性能評価と性能モデルの作成を試みた。性能評価として,最大性能,強スケーリング,弱スケーリングの3つの項目の測定と,処理時間の内訳を述べる。最大性能は行列サイズM=35Kの際に0.34PFlops/s,弱スケーリングの並列化効率は1.00となった。(著者抄録)

シソーラス用語： 性能評価 ,  消費電力 ,  スケーリング【計数】 ,  *機械学習 ,  人工知能 ,  *データ処理システム ,  高速計算 ,  並列化 ,  アクセラレータ ,  *深層学習

分類 (1件)： ディジタル計算機方式一般  (JC02010O)

タイトルに関連する用語 (2件)： Cs ,  性能評価