环球简讯:为生成式AI提供高性能网络解决方案,NVIDIA正式发布全新 Spectrum-X 网络平台

时间 : 2023-05-31 15:23:03 来源 : 51CTO.COM

随着生成式AI的爆火,大部分企业都在探索生成式AI在业务创新中的应用。众所周知,随着云计算的普及,以及5G网络技术的应用,利用云计算获取AI所需要的算力,已经开始被用户接受。


(资料图)

为了解决云AI时代面临的网络性能挑战,NVIDIA 于今日宣布推出NVIDIA Spectrum-X 网络平台,该平台是一个加速网络平台,致力于提高基于以太网AI 云的性能与效率。

NVIDIASpectrum-X™ 是基于网络创新的新成果而构建—— 将 NVIDIA Spectrum-4以太网交换机与 NVIDIA BlueField®-3 DPU紧密结合,取得了1.7 倍的整体 AI 性能和能效提升,同时可在多租户环境中提供一致、可预测的性能。Spectrum-X还提供 NVIDIA 加速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生AI应用。

这种端到端的功能交付,可以减少基于transformer的大规模生成式AI模型的运行时间,助力网络工程师、AI数据科学家和云服务商及时取得更好的结果,并更快做出明智的决策。

全球头部超大规模云服务商正在采用NVIDIA Spectrum-X,包括领先的云创新企业。

作为NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA正在构建一台超大规模生成式AI 超级计算机,命名为Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX™平台的戴尔 PowerEdge XE9680 服务器,BlueField-3DPU 和Spectrum-4 交换机等打造而成。

NVIDIA 网络高级副总裁Gilad Shainer 表示:“诸如生成式 AI 等革命性技术正在推动各家企业提升数据中心性能的极限,从而获得更多竞争优势。作为新一代以太网络,NVIDIASpectrum-X 为新一代AI 工作负载扫清障碍,将会彻底改变整个行业。”

NVIDIA Spectrum-X 网络平台具有高度的通用性,可用于各种AI 应用。它采用完全标准的以太网,与现有以太网的堆栈实现互通。

该平台起步于Spectrum-4 ,这是全球首款专为AI 网络打造的 51Tb/s 以太网交换机。先进的RoCE 扩展功能可以跨 Spectrum-4 交换机、BlueField-3 DPU 和 LinkX 光纤相互协同,共同构建了一个专为AI 云优化的端到端 400GbE 网络。

NVIDIA Spectrum-X 通过性能隔离增强了多租户环境,确保租户的AI 工作负载能以最佳性能持续运行。NVIDIASpectrum-X 还提供了更好的AI 性能可见性,它可以识别性能瓶颈,而且具有全自动网络验证功能。

驱动Spectrum-X 的加速软件包括Cumulus Linux、纯SONiC 和 NetQ 等性能强大的 NVIDIA SDK,共同助力该网络平台实现极致性能。另外,Spectrum-X还包括 BlueField DPU 的核心软件——NVIDIA DOCA™ 软件框架。

NVIDIA Spectrum-X 单台交换机即可实现突破性的 256 个200Gb/s 端口的连接,使用两层叶脊拓扑可以连接 16,000 个端口,以支持 AI 云的增长和扩展,同时保持极高的性能和极低的网络延时。

结语

此次发布令人思考,这台专为AI 网络打造的以太网交换机是否可以开启5G/6GAI时代?让我们拭目以待吧!

标签:

相关阅读

X 关闭

X 关闭

热门文章