OCP 全球峰会:伴随生态系统的采用,NVIDIA 开放 Vera Rubin 架构,助力全球 AI 工厂规模化部署
思科、谷歌、Meta、微软和Visionbay正共同推进Vera Rubin架构的发展。
在圣何塞McEnery会议中心举行的开放计算项目(OCP)全球峰会上,NVIDIA宣布了新的合作伙伴关系和技术贡献,旨在为新一代AI基础设施构建通用基础。
NVIDIA通过开放的NVIDIA MGX架构,向OCP提供了关键的NVIDIA Vera Rubin机架和计算托盘设计,为系统构建者开发下一代AI工厂基础设施提供了通用基础。
这些举措涵盖了AI工厂本身、为其供电的公用电网以及作为现代加速计算核心的机架级架构。
MGX 机架助力
Vera Rubin AI工厂加速推进
NVIDIA与行业领导者一起,通过OCP的Open DC计划为第三代MGX AI数据中心参考设计做出贡献。
结合MQD和MQDB等开放式液冷技术,该举措有助于将经过验证的AI工厂设计转变为行业标准,供业界采用、制造和扩展。
Vera CPU机架设计规范将NVIDIA MGX开放架构从加速计算进一步拓展,为日益发展的智能体AI时代提供了一个专用平台。Vera Rubin机架级系统是大规模训练和推理的基础,NVIDIA Vera CPU机架则专为工具调用、编排和沙盒执行而设计,帮助AI智能体实时与应用、数据和服务进行交互。
NVIDIA为DSX AI Factory
推出全新开源软件组件
NVIDIA通过开源组件扩展了DSX操作系统,用于配置网络、验证集群、管理机架和调配裸金属:
NVIDIA配置管理器
大规模自动化交换机配置,助力客户部署、验证和维护一致的AI工厂网络,将人工干预降至最低。
NVIDIA集群就绪引擎
借助真实的工作负载模拟对GPU集群进行压力测试,在训练任务开始前保证硬件正常运行,从而有效避免因故障导致代价高昂的任务崩溃。
NVIDIA机架管理服务
提供机架硬件抽象和运维解决方案,将机架作为头等核心单元,以提升AI工厂大规模固件管理。
适用于NVIDIA基础设施控制器的集群API Provider
加速裸机部署和租户载入,将原始AI硬件转变为生产就绪型集群的时间从几天缩短到数小时。
这些开源组件基于NVIDIA运行NVIDIA DGX Cloud的经验而开发,助力云服务提供商和软件合作伙伴能够将AI工厂能力直接集成到其多租户平台中。
NVIDIA与超大规模企业
共同发布新一代AI工厂开放标准
NVIDIA与AMD、谷歌和Meta共同发布了一项新的开放规范,为此类基础设施奠定了基础。开放数据中心规范v0.7为新一代AI工厂设施设计制定了统一蓝图,从供电架构到冷却基础设施,再到物理布局等方面。
这项由谷歌、Meta、微软和NVIDIA共同发布的OCP电网可靠性规范,明确了大规模AI基础设施在公用电网扰动期间应具备的行为能力:保持连接、自动响应,并在两秒时间内恢复至接近满载运行状态。
Visionbay.ai为Vera Rubin时代
打造800VDC AI工厂
Visionbay公布了K——新一代AI工厂平台的计划。该平台围绕800VDC架构并针对未来的NVIDIA Vera Rubin部署进行构建。该项目将NVIDIA800VDC参考架构与Vertiv的供电和散热技术相结合,为高密度AI基础设施奠定了可扩展的基础。
该设计旨在解决日益严峻的行业挑战。随着AI训练、常规推理和深度推理工作负载的增加,机架功率密度不断上升。传统的低压配电变得越来越难以扩展,需要更多的铜缆、线缆和电源转换设备。
Meta 和NVIDIA利用Spectrum-6
和多平面技术推动AI网络的发展
Meta 和NVIDIA宣布Meta将采用NVIDIA Spectrum-6102.4Tb/s以太网交换机,在开放网络上构建更大、更高性能的NVIDIA Vera Rubin AI工厂。
此次合作的核心是Spectrum-X多平面技术,该技术由Spectrum-6交换机和ConnectX-9SuperNIC提供支持。多平面技术能够在硬件层面将GPU流量分配到多达8个独立的网络平面,使AI工厂能够在减少交换机层和基础设施成本的同时,扩展至超过10万块GPU。GPU之间的多路径可提高网络利用率和可靠性:当某个组件发生故障时,流量可转移到剩余平面,从而确保GPU保持生产力,AI应用程序也可以继续运行,即使带宽有所降低。
NVIDIA和思科推出USFP,
为 AI工厂规模化重塑可插拔光模块
NVIDIA和思科宣布了USFP计划。这是一种新型可插拔光模块,旨在帮助AI工厂建造者扩展新一代AI网络,同时提高带宽密度和能效。
新的封装规格专为满足新一代AI工厂对规模和效率的需求而设计,在支持更高带宽的网络的同时,保留了使可插拔光模块成为现代数据中心支柱的灵活性和可维护性。它还能将能效提高约1.3倍,帮助运营商以更低的能耗传输更多数据。
Google Falcon Transport
支持NVIDIA ConnectX-10,
实现可互操作的AI网络
NVIDIA和谷歌宣布,未来NVIDIA ConnectX-10SuperNIC和BlueField DPU将支持Falcon Transport,帮助提高大规模AI基础设施的网络效率。
此次合作将NVIDIA硬件加速技术与DOCA软件相结合,实现Falcon落地,并将NVIDIA网络扩展至谷歌的数据中心传输。NVIDIA和谷歌网卡可以通过通用传输层进行通信,同时应用程序仍能保留标准RDMA编程接口。