抄録/ポイント：
抄録/ポイント
文献の概要を数百字程度の日本語でまとめたものです。
部分表示の続きは、JDreamⅢ(有料)でご覧頂けます。
J-GLOBALでは書誌(タイトル、著者名等)登載から半年以上経過後に表示されますが、医療系文献の場合はMyJ-GLOBALでのログインが必要です。
テンソルコアは,Ampereアーキテクチャ上で300TFlop/s以上の理論的ピーク性能を有するNVIDIA GPU上の混合精度行列乗算ユニットである。機械学習からの高密度行列乗算の高需要に応じて,テンソルコアを開発した。しかし,反復ソルバと低精度Fourier変換のための前処理者のような科学計算における多くの応用は,これらのTensorコアを利用することができる。Tensorコア上の行列乗算を計算するために,入力行列を半精度に変換する必要があり,精度の損失をもたらす。これを避けるために,追加の半精度変数を用いて変換におけるマンティサ損失を保って,マトリックス-マトリックス乗算の精度を修正するためにそれらを使用する。この補正でも,Tensorコアの使用はFP32SIMTコアと比較してより高いスループットをもたらした。それにもかかわらず,この方法の修正能力は限られ,得られた精度はFP32SIMTコア上の行列乗算と整合しない。この問題に対処し,高精度,高性能,低電力消費マトリックス-マトリックス乗算実装をTensorコアを用いて開発し,それはFP32SIMTコアの精度に正確に整合し,一方,優れたスループットを達成した。実装はNVIDIAのCUTLASSに基づいている。この精度を達成する鍵は,補正計算の間,Tensorコアとアンダーフロー確率の真円を扱う方法であった。著者らの実装は,NVIDIA A100 GPUs上のTF32 Tensorコアを用いたFP32の全指数範囲に対して,FP16 Tensorコアと33TFlop/sを用いて,19.5TFlop/sの理論的FP32 SIMTコアピーク性能を凌駕するFP32の全指数範囲に対して,51TFlop/sを達成した。【JST・京大機械翻訳】
