戴尔科技、慧与和联想即将推出 NVIDIA 全新 AI 以太网络平台
作者: CBISMB
责任编辑: 张金祥
来源: ISMB
时间: 2023-11-21 18:03
关键字: 戴尔科技 慧与 联想 NVIDIA
浏览: 5
点赞: 0
收藏: 0
基于最新NVIDIA Spectrum-X网络端到端平台,
助力客户通过AI实现业务转型

NVIDIA今日宣布,戴尔科技、慧与和联想将率先在其服务器产品阵容中集成专为AI量身定制的NVIDIA Spectrum-X™以太网络技术,帮助企业客户加速生成式AI业务。
Spectrum-X专为生成式AI量身定制,为企业提供了一种全新的以太网络,相较传统以太网方案,其AI通信网络性能提高了1.6倍。
这三家头部系统制造商的新系统,整合了Spectrum-X与NVIDIA Tensor Core GPU、NVIDIA AI Enterprise软件和NVIDIA AI Workbench软件,为企业通过生成式AI来实现业务转型奠定了基础。
NVIDIA创始人兼首席执行官黄仁勋表示:“生成式AI和加速计算正在推动新一代的业务转型,企业需要升级其数据中心来满足新型业务的需求。加速网络就是NVIDIA的头部服务器制造商合作伙伴推出新一代系统的催化剂,加快他们迈向生成式AI新时代。”
戴尔科技集团董事长兼首席执行官Michael Dell表示:“加速计算和加速网络是构建支撑大语言模型和生成式AI应用系统的关键。戴尔科技和NVIDIA将携手合作,为客户提供基础设施和软件,使他们可以快速、安全地发掘出数据的潜力。”
慧与总裁兼首席执行官Antonio Neri表示:“毫无疑问,生成式AI将推动各行各业的创新。这些强大的新型应用将需要一个全新的架构来支持各种不同的动态工作负载。为使客户能够充分挖掘生成式AI的潜力,慧与与NVIDIA携手共建系统平台,专们面向新型应用所需的性能、效率和可扩展性等需求。”
联想集团董事会主席兼首席执行官杨元庆表示:“生成式AI推动了前所未有的变革,但也对企业的基础设施提出了更加苛刻的要求。通过与NVIDIA密切合作,联想正在从网络、计算和软件等各个层面全方位构建高效的加速系统,满足现代AI应用的需求。”
专门用于加速AI的网络
为实现AI业务的最佳效率,Spectrum-X集性能优异的Spectrum-4以太网交换机、NVIDIA BlueField-3® SuperNIC(一款可以大幅提升超大规模AI业务性能的新型网络加速器)以及多种加速软件于一体。全球领先的基础设施计算平台——NVIDIA BlueField-3 DPU就属于Spectrum-X的一部分。
Spectrum-4是全球首款专门面向AI的51Tb/sec以太网交换机,可在大规模、满负荷的场景下提供超高的数据吞吐量,同时在AI云业务的多租户场景下将网络拥塞降到了最低,其智能的、基于微调的路由技术可以保障网络基础设施的最大利用率。
BlueField-3 SuperNIC专为网络密集型的大规模并行计算而设计,可在GPU服务器之间提供高达400Gb/s的RDMA(RoCE - RDMA over Converged Ethernet)网络连接,大幅提升了集群内部基于东西网络流量的AI训练和推理性能,还能实现多租户数据中心环境的安全隔离,确保租户业务的可预测性和性能隔离。BlueField-3 SuperNIC基于低功耗、半高半长的PCIe规格设计,是企业级服务器的理想选择。
NVIDIA加速软件包括Cumulus Linux、SONiC和NetQ三者组成的性能优异的Spectrum-X软件开发套件,以及作为BlueField核心的NVIDIA DOCA™软件框架。
NVIDIA AI Enterprise为安全、稳定和已经支持的生产级AI业务提供了框架、预训练模型和开发工具。NVIDIA AI Workbench使开发者能够在PC或工作站上快速创建、测试和自定义预训练生成式AI模型,然后将其扩展至几乎任何数据中心或云。
搭载Spectrum-X的NVIDIA超级计算机
NVIDIA自己的一台超级计算机就在使用Spectrum-X,这也是新一代AI系统的参考架构。该超级计算机由NVIDIA与戴尔科技联合开发,使用了基于8卡NVIDIA Hopper GPU的HGX™平台和BlueField-3 DPU及SuperNIC的Dell PowerEdge XE9680服务器,并通过Spectrum-4交换机组成了集群系统。
供应情况
基于全套NVIDIA AI解决方案的戴尔服务器、慧与服务器和联想服务器预计将于明年一季度推出。