在 SC24 大会上,NVIDIA 以 GB200 NVL4 的形式发布了最新的计算密集型 AI 加速器,这是一款单服务器解决方案,扩展了公司的"Blackwell"系列产品组合。 新平台在单板上集成了四个"Blackwell"GPU和两个"Grace"CPU。
对于单服务器系统而言,GB200 NVL4 拥有非凡的规格,包括四个 Blackwell GPU 的 768 GB HBM3E 内存,提供 32 TB/s 的综合内存带宽。 该系统的两个Grace CPU拥有960 GB LPDDR5X内存,使其成为满足苛刻人工智能工作负载的动力源。
NVL4 设计的一个主要特点是采用了 NVLink 互连技术,可实现板上所有处理器之间的通信。 该系统的功耗达到 5400 瓦,比 GB200 NVL2 型号的 2700 瓦功耗高出一倍。
NVIDIA 正与 OEM 合作伙伴密切合作,向市场推出各种 Blackwell 解决方案,包括 DGX B200、GB200 Grace Blackwell Superchip、GB200 Grace Blackwell NVL2、GB200 Grace Blackwell NVL4 和 GB200 Grace Blackwell NVL72。
单台服务器的 TDP 为 5400 W,需要液冷系统才能达到最佳性能,GB200 NVL4 预计将用于超级分频器客户的服务器机架,这些客户的数据中心通常都有定制的液冷系统。