NVIDIA 發(fā)布全新交換機(jī)，全面優(yōu)化萬億參數(shù)級(jí) GPU 計(jì)算和 AI 基礎(chǔ)設(shè)施

● NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡(luò)，打造性能最強(qiáng)大的 AI 專用基礎(chǔ)設(shè)施

● NVIDIA Spectrum-X800 以太網(wǎng)絡(luò)，數(shù)據(jù)中心必備的優(yōu)化 AI 網(wǎng)絡(luò)

● NVIDIA 軟件實(shí)現(xiàn)了跨  Blackwell GPU、新交換機(jī)和 BlueField-3 SuperNIC 的分布式計(jì)算，大幅提升了 AI、數(shù)據(jù)處理、高性能計(jì)算和云工作負(fù)載的性能

美國加利福尼亞州圣何塞 —— GTC —— 太平洋時(shí)間 2024 年 3 月 18 日 —— NVIDIA 發(fā)布專為大規(guī)模 AI 量身訂制的全新網(wǎng)絡(luò)交換機(jī) - X800 系列。

NVIDIA Quantum-X800 InfiniBand 網(wǎng)絡(luò)和 NVIDIA Spectrum?-X800 以太網(wǎng)絡(luò)是全球首批高達(dá) 800Gb/s 端到端吞吐量的網(wǎng)絡(luò)平臺(tái)，將計(jì)算和 AI 工作負(fù)載的網(wǎng)絡(luò)性能提升到了一個(gè)新的水平，與其配套軟件強(qiáng)強(qiáng)聯(lián)手可進(jìn)一步加速各種數(shù)據(jù)中心中的 AI、云、數(shù)據(jù)處理和高性能計(jì)算（HPC）應(yīng)用，包括基于最新的 NVIDIA Blackwell 架構(gòu)產(chǎn)品的數(shù)據(jù)中心。

NVIDIA 網(wǎng)絡(luò)高級(jí)副總裁 Gilad Shainer 表示：“NVIDIA 網(wǎng)絡(luò)平臺(tái)是 AI 超級(jí)計(jì)算基礎(chǔ)設(shè)施實(shí)現(xiàn)大規(guī)?？蓴U(kuò)展的核心?；?NVIDIA X800 交換機(jī)的端到端網(wǎng)絡(luò)平臺(tái)，使新型 AI 基礎(chǔ)設(shè)施輕松運(yùn)行萬億參數(shù)級(jí)生成式 AI 業(yè)務(wù)?！?p>

Quantum InfiniBand 和 Spectrum-X 以太網(wǎng)的早期用戶包括微軟 Azure 、Oracle Cloud Infrastructure 和 Coreweave 等。

微軟 Azure AI 基礎(chǔ)設(shè)施副總裁 Nidhi Chappell 表示：“AI 是一個(gè)將數(shù)據(jù)轉(zhuǎn)化為知識(shí)的強(qiáng)大工具，支撐這種轉(zhuǎn)化的基礎(chǔ)就是數(shù)據(jù)中心演進(jìn)成為了高性能的 AI 引擎，這個(gè)演進(jìn)又對(duì)網(wǎng)絡(luò)基礎(chǔ)設(shè)施提出了更大的需求。通過與 NVIDIA 網(wǎng)絡(luò)解決方案的全新整合，微軟 Azure云將持續(xù)構(gòu)建我們的基礎(chǔ)設(shè)施，推動(dòng) AI 云走向新的臺(tái)階?！?p>

樹立極致性能的新標(biāo)桿

Quantum-X800 平臺(tái)樹立了 AI 專用基礎(chǔ)設(shè)施極致性能的新標(biāo)桿，該平臺(tái)包含了 NVIDIA Quantum Q3400 交換機(jī)和 NVIDIA ConnectX?-8 SuperNIC，二者互連達(dá)到了業(yè)界領(lǐng)先的端到端 800Gb/s 吞吐量，交換帶寬容量較上一代產(chǎn)品提高了 5 倍，網(wǎng)絡(luò)計(jì)算能力更是憑借 NVIDIA 的 SHARP? 技術(shù)（SHARPv4）提高了 9 倍，達(dá)到了 14.4Tflops。

Spectrum-X800 平臺(tái)為 AI 云和企業(yè)級(jí)基礎(chǔ)設(shè)施帶來優(yōu)化的網(wǎng)絡(luò)性能。借助 800Gb/s 的 Spectrum SN5600 交換機(jī)和 NVIDIA BlueField-3 SuperNIC，Spectrum-X800 平臺(tái)為多租戶生成式 AI 云和大型企業(yè)級(jí)用戶提供各種至關(guān)重要的先進(jìn)功能。

Spectrum-X800 通過優(yōu)化網(wǎng)絡(luò)性能，加快 AI 工作負(fù)載的處理、分析和執(zhí)行速度，進(jìn)而縮短 AI 解決方案的開發(fā)、部署和上市時(shí)間。Spectrum-X800 專為多租戶環(huán)境打造，實(shí)現(xiàn)了每個(gè)租戶的 AI 工作負(fù)載的性能隔離，使業(yè)務(wù)性能能夠持續(xù)保持在最佳狀態(tài)，提升客戶滿意度和服務(wù)質(zhì)量。

NVIDIA 軟件助一臂之力

NVIDIA 提供面向萬億參數(shù)級(jí) AI 模型性能優(yōu)化的網(wǎng)絡(luò)加速通信庫、軟件開發(fā)套件和管理軟件等全套軟件方案。

其中的 NVIDIA 集合通信庫（NCCL）可將 GPU 的并行計(jì)算任務(wù)擴(kuò)展到 Quantum-X800 網(wǎng)絡(luò)，利用其基于 SHARPv4 的強(qiáng)大網(wǎng)絡(luò)計(jì)算能力和對(duì) FP8 的支持，為大模型訓(xùn)練和生成式 AI 提供超強(qiáng)的性能。

NVIDIA 的全棧軟件方案帶來了先進(jìn)的可編程性，使數(shù)據(jù)中心網(wǎng)絡(luò)變得更加靈活、可靠和靈敏，既提高了整體運(yùn)營效率，又滿足了現(xiàn)代應(yīng)用和服務(wù)的需求。

生態(tài)里程碑

全球多家頭部基礎(chǔ)設(shè)施供應(yīng)商和系統(tǒng)廠商將在明年開始提供基于 Quantum-X800 和Spectrum-X800 的網(wǎng)絡(luò)平臺(tái)，包括 Aivres、DDN、戴爾科技、Eviden、Hitachi Vantara、慧與、聯(lián)想、超微和 VAST Data 等。