(GPU)スクラッチからの個人推薦システムの訓練:後方に前進【JST・京大機械翻訳】

Kwon Youngeun; Rhu Minsoo

プレプリント

J-GLOBAL ID：202202218718944600 整理番号：22P0346847

(GPU)スクラッチからの個人推薦システムの訓練:後方に前進【JST・京大機械翻訳】

Training Personalized Recommendation Systems from (GPU) Scratch: Look Forward not Backwards

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (2件)： ,
資料名：
発行年： 2022年05月10日プレプリントサーバーでの情報更新日： 2022年05月10日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

個人化推薦モデル(RecSys)は,ハイパースケールによりサービスされる最も一般的な機械学習作業負荷の1つである。訓練RecSysの重大な課題は,その高い記憶容量要求であり,モデルサイズのTBsに対して数百のGBに達する。RecSysにおいて,いわゆる埋込み層はメモリ利用の大部分を説明し,現在のシステムはメモリハンガリー埋込み層を記憶する大きなCPUメモリを持つハイブリッドCPU-GPU設計を採用する。残念ながら,訓練埋込みは,遅いCPUメモリとのオッズにあるいくつかのメモリ帯域幅集約演算を含み,性能オーバヘッドを引き起こす。CPUメモリへの埋込み層トラフィックをフィルタリングする手段として,GPUメモリ内に頻繁にアクセスするキャッシュをキャッシュするために提案した事前作業は,そのようなキャッシュ設計でいくつかの制限を観察した。本研究では,RecSysのための埋込みキャッシュの設計における基本的に異なるアプローチを示した。提案のScratch Pipeアーキテクチャは,RecSys訓練のユニークな特性を利用して,過去のだけでなく「未来」キャッシュアクセスを見るだけでなく,埋込みキャッシュを開発した。ScratchPipeは,埋込み層のアクティブな作業セットが,提案キャッシュ設計の中で捉えられることを保証するために,そのような特性を利用し,GPUメモリ速度において埋込み層訓練を行うことが可能である。【JST・京大機械翻訳】

, , , , , , , ,
, , , , 【Automatic Indexing@JST】

言語プロセッサ , 専用演算制御装置

, , , , ,

前のページに戻る