GH200 Grace Hopper Superchip

GH200尺寸對(duì)比

72 核的Grace CPU

GH200 Grace Hopper Superchip架構(gòu)圖

每個(gè) Grace CPU 具有72個(gè)ARM核心，配備 480GB LPDDR5X，內(nèi)存帶寬可達(dá)到500GB/s。

NVIDIA H200 是首款提供 HBM3e 的 GPU，作為一種更快、更大的內(nèi)存，HBM3e可加速生成式 AI 和大型語(yǔ)言模型，同時(shí)能推進(jìn) HPC 工作負(fù)載的科學(xué)計(jì)算。借助 HBM3e，NVIDIA H200 能以每秒 4.8 TB 的速度提供 141GB 內(nèi)存。

GH200 Grace Hopper Superchip NVIDIA Hopper GPU 和 Grace CPU 之間的高帶寬 NVLink-C2C 鏈路可實(shí)現(xiàn) CPU 和 GPU 之間的快速通信，從而有助于提高性能。

NVLink接口允許將各個(gè)GH200組件拓?fù)溥B接，做為更大計(jì)算系統(tǒng)的構(gòu)建模塊。

NVIDIA Grace CPU支持多達(dá) 64 個(gè) PCIe Gen 5 通道用于 IO 連接。每個(gè) 8 個(gè) PCIe Gen 5 x16 鏈路均支持高達(dá) 128 GB/s 的雙向帶寬，并且可以分為 2x8 以獲得額外連接，并且可以支持各種 PCIe 插槽外形尺寸支持NVIDIA DPU、NVIDIA ConnectX SmartNIC、E1.S 和 M.2 NVMe 設(shè)備、模塊化 BMC 選項(xiàng)等。? 

Supermicro 的1U NVIDIA MGX服務(wù)器，配備兩個(gè)NVIDIA GH200 Grace Hopper Superchip。

聲明：文章內(nèi)容整理自網(wǎng)絡(luò)公開(kāi)素材，版權(quán)歸原作者平臺(tái)所有，僅用于信息分享，如有侵權(quán)請(qǐng)聯(lián)系刪除。