NVIDIA在OCP峰会开放Vera Rubin架构 加速全球AI工厂扩展
ICC讯 随着AI工厂从兆瓦级增长到吉瓦级,建设它们不仅需要先进计算。开放标准正在帮助行业更快、更高效、更可靠地扩展AI基础设施。在圣何塞McEnery会议中心举行的开放计算项目全球峰会上,NVIDIA宣布了旨在为下一代AI基础设施创建共同基础的新合作伙伴关系和贡献。
NVIDIA通过开放的NVIDIA MGX架构,向OCP贡献了关键的NVIDIA Vera Rubin机架和计算托盘设计,为系统构建者开发下一代AI工厂基础设施提供了共同基础。这些努力共同覆盖了AI工厂本身、为其供电的电网以及现代加速计算核心的机架级架构。
- NVIDIA与超大规模企业发布下一代AI工厂开放标准,包括AI工厂设计标准和电网韧性。
- NVIDIA推出NVIDIA DSX AI Factory的新开源软件组件。
- Meta与NVIDIA通过NVIDIA Spectrum-X Ethernet SuperNIC和Spectrum-6创新推进开放AI网络。
- Visionbay推出面向Vera Rubin时代的800V DC AI工厂设计。
- NVIDIA与Cisco宣布超高密度小外形可插拔标准,这是业界首个用于400Gb/s网络的模块。
- NVIDIA与Google宣布未来NVIDIA ConnectX-10 SuperNIC和BlueField DPU支持Falcon Transport。
NVIDIA超大规模与高性能计算副总裁Ian Buck在座无虚席的观众面前,讨论了开放基础设施如何成为全球扩展AI工厂的关键要素。OCP上的新闻凸显了NVIDIA的极致协同设计与开放标准相结合,如何加速部署、提高能效并推动每瓦token性能。
NVIDIA与行业领袖一起,通过OCP的Open DC Initiative为第三代MGX AI数据中心参考设计做出贡献。结合MQD和MQDB等开放液冷技术,该努力有助于将经过验证的AI工厂设计转化为行业标准,供其他人采用、制造和扩展。
对于NVIDIA Vera Rubin AI工厂,更新的MGX 1.2规范扩展了AI工厂的开放架构,增加了机架级盲插液冷、可互操作的机架级互连基础设施以及专为更高功率AI系统设计的液冷5000A母线。它还增加了原生19英寸设备支持和更高密度机架设计。
MGX 1.2通过可配置I/O托架、无风扇液冷计算托盘、标准化电源和冷却接口以及帮助生态合作伙伴构建可互操作加速计算平台的通用基础设施,进一步扩展了模块化。它改善了组装、测试和服务时间,以简化制造和现场服务,实现更快、更高效的基础设施建设。该架构支持高达250kW的机架部署,同时简化可维护性、部署和基础设施复用。
Vera CPU机架设计规范将NVIDIA MGX开放架构扩展到加速计算之外,为不断增长的代理型AI时代提供专用平台。虽然Vera Rubin NVL72作为大规模训练和推理的基础,但NVIDIA Vera CPU机架旨在支持工具调用、编排和沙箱执行,帮助AI代理实时与应用、数据和服务交互。
基于第三代NVIDIA MGX机架架构,Vera CPU机架共享相同的机架级设计原则,将计算、网络、电源和冷却统一到一个通用模块化平台中。这种方法使合作伙伴能够部署专用基础设施,同时受益于共享生态系统、简化集成和下一代AI工厂的一致基础。
NVIDIA DSX AI工厂平台应用极致协同设计,统一计算、网络、电源、冷却、设施和软件,帮助AI工厂作为单一优化系统运行,在可用基础设施约束内最大化AI输出。该统一系统的核心是DSX OS,这是将DSX架构转化为大规模协调、可重复运营的开放操作层。
在OCP上,NVIDIA扩展了DSX OS,增加了用于配置网络、验证集群、管理机架和配置裸金属的开源组件:
- NVIDIA Config Manager:大规模自动化交换机配置,使客户能够以最少至零手动干预部署、验证和维护一致的AI工厂网络架构。
- NVIDIA Cluster Readiness Engine:通过真实工作负载模拟对GPU集群进行压力测试,帮助消除代价高昂的作业崩溃,在训练开始前保证硬件健康。
- NVIDIA Rack Management Service:提供机架硬件抽象和运营解决方案,将机架视为一等单元,以改善AI工厂规模固件管理。
- Cluster API Provider for NVIDIA Infrastructure Controller:加速裸金属部署和租户上线,将原始AI硬件在数小时而非数天内转化为生产就绪集群。
这些开源组件源自NVIDIA运营NVIDIA DGX Cloud的经验,使云提供商和软件合作伙伴能够将AI工厂能力直接集成到其多租户平台中。开发者可访问DSX AI Factory Github页面,探索并贡献NVIDIA DSX AI Factory平台的新开源和现有开源软件组件。
AI基础设施要在全球扩展,需要的不仅仅是先进硬件——它需要一个整个行业可以构建的共同基础。在OCP上,NVIDIA与AMD、Google和Meta一起发布了一项新的开放规范,建立了这一基础。Open Data Center Specification v0.7定义了下一代AI工厂设施设计的统一蓝图——从电力架构到冷却基础设施再到物理布局。
由Google、Meta、Microsoft和NVIDIA发布的OCP Grid Resilience Specification,确立了大规模AI基础设施在公用电网扰动期间应如何表现:保持连接、自动响应并在不到两秒内恢复到接近满负荷。
随着这些标准现在开放,全球制造商有了共同的目标。设备制造商、托管提供商和数据中心运营商可以开始设计、制造和交付为全球正在建设的AI工厂提供动力的基础设施层——无需等待个别客户的专有规范。
作为NVIDIA DSX参考设计兼容,这些规范提供了两个规范经过验证、可部署的实现,从设施布局和电力架构到实时监控和响应电网信号的软件。对于建设Vera Rubin AI工厂的运营商来说,现在有一条从开放社区标准到运行系统的直线。
随着AI工厂变得更大、更强大,一个挑战笼罩着所有挑战:为驱动下一代AI的加速计算系统提供足够电力。在OCP上,Visionbay公布了K-1计划,这是一个下一代AI工厂平台,围绕800 VDC架构设计,并考虑了未来NVIDIA Vera Rubin部署。该项目将NVIDIA的800 VDC参考架构与Vertiv的电力和热技术相结合,为高密度AI基础设施创建可扩展基础。
该设计解决了日益增长的行业挑战。随着AI训练、推理和推理工作负载扩展,机架功率密度持续上升。传统低压配电越来越难以扩展,需要更多铜、更多电缆和更多电力转换设备。
通过采用NVIDIA的800 VDC架构,K-1创建了通往更高密度AI基础设施的路径,同时保留现有部署的灵活性。该平台不是要求第一天就完全过渡,而是设计为在能带来最大效益的地方分阶段引入800 VDC配电,帮助运营商为未来几代加速计算做准备,而无需进行大量设施重新设计。
该架构围绕集群级电力中心设计,集中AC-DC转换并将800 VDC分配到更靠近计算资源的地方。该方法简化了下游电力输送,支持模块化扩展,并为未来AI工厂增长创建可重复的构建块。
K-1还反映了NVIDIA AI工厂背后的系统级设计理念,即电力、冷却和计算一起设计。凭借对液冷基础设施、可扩展配电和未来Vera Rubin级部署的支持,该项目展示了生态合作伙伴如何将NVIDIA的AI工厂架构转化为面向下一个加速计算时代的可部署基础设施。
在活动上,Meta和NVIDIA宣布,Meta正在采用NVIDIA Spectrum-6 102.4Tb/s以太网交换机,在开放网络上构建更大、更高性能的NVIDIA Vera Rubin AI工厂。
Spectrum-6提供Spectrum-4两倍的交换容量和每通道带宽,并提供每通道200G的无损以太网AI架构,具有高有效带宽和性能隔离,防止一个作业的流量拖慢另一个作业。
Meta基于Spectrum-6的交换机N-IceCube可插入IcePack,这是Meta的100T液冷机架。N-IceCube运行Facebook开放交换系统,这是Meta贡献给OCP的开源网络操作系统,支持超大规模高效网络。
FBOSS建立在Switch Abstraction Interface之上,这是NVIDIA帮助开发的OCP标准,提供独立于供应商的控制交换机硬件的方式。这些技术共同支持超过10万个GPU的代理型AI工厂,训练和服务大规模专家混合模型。
该公告标志着合作下一步,将Meta在超大规模运营AI基础设施的经验与NVIDIA的网络技术相结合。
这一合作的核心是Spectrum-X Multiplane技术,由Spectrum-6交换机和ConnectX-9 SuperNIC实现。Multiplane在硬件上将GPU流量分布到多达八个独立网络平面,使AI工厂能够以更少交换机层级和更低基础设施成本扩展到超过10万个GPU。GPU之间的多条路径提高了网络利用率和韧性:当组件故障时,流量转移到剩余平面,保持GPU生产力和AI应用运行,即使带宽降低。
Meta和NVIDIA通过部署经验和快速工程迭代共同加强了这种韧性。团队在本地和云环境中验证了改进。
Meta数据中心与AI网络高级总监Omar Baldonado表示:“我们很高兴与NVIDIA的紧密合作,使多平面网络在运营上可扩展且高性能,这对我们自己的基础设施建设和联合云合作伙伴都是关键需求。将FBOSS扩展到Spectrum ASIC意味着我们可以在整个网络上运行相同的软件栈,而Meta新的基于Spectrum的交换机N-IceCube将其带入Icepack——我们的液冷102.4T网络机架,用于横向扩展,连接我们 fleet 中即将到来的几代加速器。”
Meta和NVIDIA正在共同开发一种架构和运营手册,其他AI基础设施运营商可以采用,将 demanding 生产工作负载的经验转化为更可扩展、有韧性和高效的AI工厂。
随着AI工厂扩展以支持更大模型和激增的推理需求,基础设施栈的每个组件都必须提供更多性能、效率和简单性——一直到网络连接本身。在OCP上,NVIDIA和Cisco宣布了USFP计划,这是一种新的光学可插拔收发器模块外形,旨在帮助AI工厂建设者扩展下一代AI网络,同时提高带宽密度和能效。
USFP与广泛采用的每通道200Gb/s OSFP外形尺寸大致相同,将提供通往每通道400Gb/s网络的路径,并扩展已在几代数据中心网络中验证的基于收发器的部署模式。USFP集成16个全双工通道,计划扩展到32个通道,将提供传统每通道200Gb/s可插拔光学四倍的带宽密度。结果是能够连接更多计算资源,而无需增加可能增加延迟、功耗和复杂性的网络层级。
新外形专为下一代AI工厂的规模和效率需求设计,支持更高带宽网络,同时保留使可插拔光学成为现代数据中心支柱的灵活性和可维护性。它还将提供约1.3倍的能效,帮助运营商以更少能源移动更多数据。
为帮助推动开放生态系统,NVIDIA和Cisco正与TE Connectivity和Amphenol合作开发笼、连接器和模块,并计划通过社区主导的多源努力推进USFP。这些公司共同为更可扩展、高效和可互操作的AI工厂网络奠定基础。
Google Falcon Transport支持NVIDIA ConnectX-10,实现可互操作AI网络
NVIDIA和Google还宣布,未来NVIDIA ConnectX-10 SuperNIC和BlueField DPU将支持Falcon Transport,帮助提高大规模AI基础设施的网络效率。Falcon是一种传输协议,旨在以太网上可靠地传输数据,否则在拥塞时可能丢包。它通过多路径负载均衡、可编程拥塞控制、硬件丢包恢复和每连接安全支持AI和存储工作负载。
该合作将NVIDIA硬件加速与DOCA软件相结合,实现Falcon,并将NVIDIA网络扩展到Google的数据中心传输。NVIDIA和Google的NIC可以通过通用传输通信,同时应用保留标准RDMA编程接口。
通过在路径间分配流量、适应拥塞、恢复丢失的数据包和保护连接,Falcon帮助工作负载更好地利用可用带宽,并在以太网架构扩展时保持可预测的性能。
原文:Amid Ecosystem Adoption, NVIDIA Opens Vera Rubin Architecture to Help Scale AI Factories Worldwide | NVIDIA Blog https://blogs.nvidia.com/blog/ocp-global-summit-vera-rubin-scale-ai-factories/?_gl=16rua_gcl_auMjE0Mzg1MDM4NS4xNzg3NjM4NzE2Li0uLS4xNzg3NjM4NzgyLjcyNzAyMjg5MC4xNzkxODUxMDkzLjE3OTE4NTEwOTI .
相关新闻
· NVIDIA与Cisco推出USFP可插拔光模块 面向AI工厂
· 是德科技在2026年OCP大会上展示AI基础设施验证的最新进展
· Broadcom将在OCP峰会展示AI网络创新 覆盖Scale-Up/Out/Across
· Firmus和CDC终止了510亿美元的澳大利亚人工智能建设计划
· Ciena将在OCP全球峰会展示AI基础设施与光网络最新创新
· Crusoe融资39亿美元建大型数据中心与模块化“AI工厂”
· 英伟达129亿美元收购Hugging Face 强化AI开放平台布局
· 英伟达斥资35亿美元认购联发科债券 深化AI芯片战略合作
· 亚马逊云科技和 NVIDIA 将提供 200 万个新增 GPU 和新一代基础设施,助力代理式 AI 和物理 AI 发展
设置首页 | 光通讯招聘 | 企业搜索库 | 广告服务 | 联系我们 | 保护私隐 | 公司介绍 Copyright ? 2009 ICCSZ.com Inc. All Rights Reserved. 讯石公司 www.iccsz.com 版权所有 粤ICP备12008183号-1