テンソル処理装置のinデータセンタ性能解析【Powered by NICT】

Jouppi Norman P.; Young Cliff; Patil Nishant; Patterson David; Agrawal Gaurav; Bajwa Raminder; Bates Sarah; Bhatia Suresh; Boden Nan; Borchers Al; Boyle Rick; Cantin Pierre-luc; Chao Clifford; Clark Chris; Coriell Jeremy; Daley Mike; Dau Matt; Dean Jeffrey; Gelb Ben; Ghaemmaghami Tara Vazir; Gottipati Rajendra; Gulland William; Hagmann Robert; Ho C. Richard; Hogberg Doug; Hu John; Hundt Robert; Hurt Dan; Ibarz Julian; Jaffey Aaron; Jaworski Alek; Kaplan Alexander; Khaitan Harshit; Killebrew Daniel; Koch Andy; Kumar Naveen; Lacy Steve; Laudon James; Law James; Le Diemthu; Leary Chris; Liu Zhuyuan; Lucke Kyle; Lundin Alan; MacKean Gordon; Maggiore Adriana; Mahony Maire; Miller Kieran; Nagarajan Rahul; Narayanaswami Ravi; Ni Ray; Nix Kathy; Norrie Thomas; Omernick Mark; Penukonda Narayana; Phelps Andy; Ross Jonathan; Ross Matt; Salek Amir; Samadiani Emad; Severn Chris; Sizikov Gregory; Snelham Matthew; Souter Jed; Steinberg Dan; Swing Andy; Tan Mercedes; Thorson Gregory; Tian Bo; Toma Horia; Tuttle Erick; Vasudevan Vijay; Walter Richard; Wang Walter; Wilcox Eric; Yoon Doe Hyun

文献

J-GLOBAL ID：201802265266085103 整理番号：18A0078302

テンソル処理装置のinデータセンタ性能解析【Powered by NICT】

In-datacenter performance analysis of a tensor processing unit

出版者サイト複写サービスで全文入手 {{ this.onShowCLink("http://jdream3.com/copy/?sid=JGLOBAL&noSystem=1&documentNoArray=18A0078302&COPY=1") }}
高度な検索・分析はJDreamⅢで {{ this.onShowJLink("http://jdream3.com/lp/jglobal/index.html?docNo=18A0078302&from=J-GLOBAL&jstjournalNo=W2441A") }}

著者 (76件)： , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,
資料名：
巻： 2017 号： ISCA ページ： 1-12 発行年： 2017年
JST資料番号： W2441A 資料種別：会議録 (C)
記事区分：原著論文発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

多くの建築家はコストエネルギー性能の主要な改良は,領域特異的ハードウェアから来なければならないであろう。本論文では,ニューラルネットワーク(NN)の推論相を加速するカスタム2015年以降データセンタに設置されたテンソル処理ユニット(TPU)-ASICを評価した。TPUの心臓は92TeraOps/二(TOPS)のピークスループットと大きな(28 MiB)ソフトウェア管理されたオンチップメモリを提供する65,5368ビットMACマトリックス多重ユニットである。TPUの決定論的実行モデルは,保証された潜時よりも平均スループットより支援するCPUおよびGPUの時変最適化よりも著者らのNN応用の九十九パーセンタイル応答時間要求によく適合した。そのような特徴の欠如は,無数のMACと大きなメモリを持つにもかかわらず,TPUは比較的小さく,低電力である理由を説明する助けとなる。サーバクラスIntel Haswell CPUにTPUとNvidia K80GPU,同じデータセンタに設置された同世代を比較した。作業負荷,高レベルTensorFlowフレームワークで書かれた,データセンタのNN推論需要の95%を占める生産NN応用(MLP,CNN,LSTMs)を使用した。いくつかの応用のための低利用にもかかわらず,TPUはその現代GPUまたはCPU,TOPS/ワットで約30X 80xより約15x 30x速いほうが平均的に高かった。さらに,TPUにおけるGPUのGDDR5メモリを用いた達成TOPSを3倍とCPUをGPUと200X約70xにTOPS/ワットを高めるであろう。Copyright 2018 The Institute of Electrical and Electronics Engineers, Inc. All Rights reserved. Translated from English into Japanese by JST【Powered by NICT】

, , , , , , , , , , , , ,
, , 【Automatic Indexing@JST】

人工知能

, ,

前のページに戻る