跳至內容

深入了解NVIDIA Blackwell

在 AI 變革的關鍵時刻,不斷演進的擴展定律(scaling laws)持續挑戰資料中心的極限。Supermicro 與 NVIDIA 密切合作,推出最新 NVIDIA Blackwell 解決方案,結合新一代氣冷與液冷架構,提供前所未有的運算效能、密度與效率。憑藉可立即部署的 AI 資料中心模組化解決方案,Supermicro 是您啟動 NVIDIA Blackwell 之旅的首選合作夥伴,提供永續且領先的解決方案,加速 AI 創新。

端到端AI資料中心建構組件解決方案的優勢

提供多種 CPU 選項的豐富氣冷與液冷系統、完整的資料中心管理軟體套件、含完整網路、佈線與叢集層級 L12 驗證的統包式機架層級整合,以及全球交付、支援與服務。

精選 Supermicro 支援 NVIDIA Blackwell 的系統
豐富的經驗
Supermicro 的 AI 資料中心模組化解決方案支援全球規模最大的液冷 AI 資料中心部署。
靈活的產品/服務
氣冷或液冷式、GPU 最佳化、多種系統與機架外型規格、CPU、儲存裝置、網路選項。可根據您的需求進行最佳化。
液冷先驅
經過驗證、具備可擴充性且隨插即用的液冷解決方案,持續推動 AI 革命。專為 NVIDIA Blackwell 架構所設計。
快速上線
藉由全球產能、世界級的部署專業知識以及單一據點服務來加速交付,讓您的 AI 快速投入生產。

最緊湊的超大規模AI 平台

針對 OCP ORV3 設計進行最佳化的 NVIDIA HGX™ B300 系統,單機架最高可支援 144 個 GPU

Supermicro 的 2-OU 液冷 NVIDIA HGX B300 系統為超大規模部署提供無與倫比的 GPU 密度。本系統符合 OCP ORV3 規格並採用先進的 DLC-2 技術,每組精巧的 8-GPU 節點可適用於 21 吋機架,每機架最高可容納 18 個節點與總共 144 個 GPU。本系統採用盲插式歧管連接與模組化 GPU/CPU 托盤架構,可讓每顆 B300 GPU 維持最高 1,100W TDP,同時大幅降低機架佔用空間、功耗與冷卻成本。非常適合需要極致效能密度與卓越可維護性的 AI 工廠。

單一機架最多可容納 144 個液冷 GPU
1.8TB/s GPU 對 GPU 互連;
每張 GPU 配備 288 GB HBM3e
21 吋 OCP ORV3 標準化機架設計
整合 NVIDIA ConnectX-8 SuperNIC,800Gb/s 運算網路架構(fabric)
配備 18 台液冷 2OU 前置 I/O NVIDIA HGX B300 8-GPU 系統的 Supermicro 44OU 機架

AI 推理專屬 Ultra 效能

專為 NVIDIA HGX™ B300 打造的頂尖氣冷與液冷架構

Supermicro NVIDIA HGX 平台驅動了全球許多規模最大的 AI 叢集,為當今具變革性的 AI 應用提供強大的運算輸出。現已搭載 NVIDIA Blackwell Ultra,這款 8U 氣冷系統將八個 1100W HGX B300 GPU(總計 2.3TB HBM3e 記憶體)的效能發揮到極致。八個前置 OSFP 連接埠整合 800 Gb/s ConnectX®-8 SuperNIC,可統包式部署 NVIDIA Quantum-X800 InfiniBand 或 Spectrum-X™ 乙太網路叢集。4U 液冷系統採用 DLC-2 技術,熱捕獲率達 98%,可節省 40% 的資料中心電力。Supermicro Data Center Building Block Solutions® (DCBBS) 與現場部署專業技術提供完整的解決方案,涵蓋液冷、網路拓撲與纜線配置、供電及散熱管理,以加速 AI 工廠上線運作的時間。

機架內最多可容納 64 個(液冷)GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 288 GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 處理器
整合 NVIDIA ConnectX-8 SuperNIC,800Gb/s 運算網路架構(fabric)
配備 8 台液冷 4U 前置 I/O NVIDIA HGX B300 8-GPU 系統的 Supermicro 52U 機架配備 4 台氣冷 8U 前置 I/O NVIDIA HGX B300 8-GPU 系統的 Supermicro 52U 機架

單一機架實現 Exascale 級運算

適用於 NVIDIA GB300 NVL72 的端到端液冷解決方案

Supermicro NVIDIA GB300 NVL72 可因應從基礎模型訓練到大規模推理型推論的各種 AI 運算需求。它結合了高效能 AI 運算與 Supermicro 的直接液冷技術,可實現最高的運算密度與效率。基於 NVIDIA Blackwell Ultra,單一機架整合了 72 顆 NVIDIA B300 GPU,每顆具備 288GB HBM3e 記憶體。憑藉 1.8TB/s NVLink 互連,GB300 NVL72 在單一節點內即可發揮 Exascale 級超級電腦的效能。升級後的網路讓運算網路架構(fabric)效能倍增,支援 800 Gb/s 速度。Supermicro 的製造產能與端到端服務可加速液冷式 AI 工廠的部署,並縮短 GB300 NVL72 叢集的上市時間。

36 個 NVIDIA Grace CPU 和 72 個 NVIDIA Blackwell Ultra GPU
透過所有 72 個 GPU 與 CPU 實現 1.8TB/s 的 GPU 與 GPU 互連
36x NVIDIA 72 核心 Grace Arm Neoverse V2 CPU
250kW CDU 液對液或 200kW 液對氣 Sidecar 選項
適用於 NVIDIA GB300 NVL72 SuperCluster 的 Supermicro 48U 機架適用於 NVIDIA GB200 NVL72 SuperCluster 的 Supermicro 48U 機架

氣冷式系統的進化

針對 NVIDIA HGX B200 8-GPU 重新設計與最佳化的暢銷氣冷式系統

全新氣冷 NVIDIA HGX B200 8-GPU 系統採用強化散熱架構,CPU、記憶體、儲存與網路皆可高度彈性配置,並提升前側或後側的維護便利性。單一機架最多可安裝並完整整合 4 台全新 8U/10U 氣冷系統,在維持與上一代相同密度的同時,提供高達 15 倍推論效能與 3 倍訓練效能。所有 Supermicro NVIDIA HGX B200 系統皆採 1:1 GPU 與 NIC 配比,支援 NVIDIA BlueField®-3 或 NVIDIA ConnectX®-7,可在高效能運算網路架構(fabric)中擴充。

每個機架最高支援 32 個 GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 180GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 系列處理器
新一代氣冷式散熱片與增強的維護便利性
配備 5 台氣冷 8U 前置 I/O NVIDIA HGX B200 8-GPU 系統的 Supermicro 52U 機架配備 4 台氣冷 10U 後置 I/O NVIDIA HGX B200 8-GPU 系統的 Supermicro 52U 機架

新一代液冷系統

單一機架最高可支援 96 個 NVIDIA HGX™ B200 GPU,具備極高的可擴充性與效率

全新前置 I/O 液冷 4U NVIDIA HGX B200 8-GPU 系統採用 Supermicro DLC-2 技術。直接液冷現可捕獲 CPU、GPU、PCIe 交換晶片、DIMM、VRM 與 PSU 等伺服器元件高達 92% 的熱量,節省高達 40% 的資料中心電力,噪音低至 50dB。這款全新架構進一步提升了針對 NVIDIA HGX H100/H200 8-GPU 系統所設計之上一代產品的效率與可維護性。機架規模設計提供 42U、48U 或 52U 配置,並搭配全新的垂直冷卻液分配歧管(CDM),讓水平歧管不再佔用寶貴的機架單位。這使得 42U 機架可容納 8 個系統共 64 個 NVIDIA Blackwell GPU,而 52U 機架則可容納多達 12 個系統共 96 個 NVIDIA GPU。

每個機架最高支援 96 個 GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 180GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 系列處理器
Supermicro DLC-2 技術可實現高達 40% 的資料中心節能效果
配備 8 台液冷 4U 前置 I/O NVIDIA HGX B200 8-GPU 系統的 Supermicro 48U 機架配備 8 台液冷 4U 後置 I/O NVIDIA HGX B200 8-GPU 系統的 Supermicro 48U 機架
採用 NVIDIA Blackwell 架構的 SuperCluster

為 NVIDIA Blackwell 隨插即用且可隨需部署的可擴充單元

全新 SuperCluster 設計提供 42U、48U 或 52U 機架組態,適用於氣冷或液冷資料中心,並在集中式機架中整合 NVIDIA Quantum InfiniBand 或 NVIDIA Spectrum™ 網路。液冷 SuperCluster 可在五座 42U/48U 機架中建構無阻塞的 256-GPU 可擴充單元,或在九座 52U 機架中建構擴充型 768-GPU 可擴充單元,滿足最先進的 AI 資料中心部署需求。Supermicro 也為大型部署提供列間(in-row)CDU 選項,以及無需廠務冷卻水的液對氣冷卻機架解決方案。氣冷式 SuperCluster 設計沿用上一代經過市場驗證、領先業界的架構,可在九個 48U 機架中提供 256-GPU 可擴充單元。

了解更多關於超級集群的信息

隨插即用可擴充單元,可隨時為 NVIDIA Blackwell 進行部署

針對 NVIDIA Blackwell 的端到端資料中心模組化解決方案與部署服務

Supermicro 是全面的一站式解決方案供應商,具備全球製造規模,可提供資料中心級的解決方案設計、液冷技術、交換器、佈線、完整的資料中心管理軟體套件、L11 與 L12 解決方案驗證、現場安裝以及專業的支援與服務。憑藉分佈於聖荷西、歐洲和亞洲的生產設施,Supermicro 針對液冷或氣冷機架系統提供無與倫比的製造能力,確保如期交付、降低總體擁有成本(TCO)並維持一致的品質。

機架和資料中心整合服務

隨插即用可擴充單元,可隨時為 NVIDIA Blackwell 進行部署
NVIDIA Blackwell 最佳化基礎架構與軟體

Supermicro 的 NVIDIA Blackwell 解決方案在集中式機架中針對 NVIDIA Quantum InfiniBand 或 NVIDIA Spectrum™ 網路進行最佳化,實現最佳的基礎設施擴充與 GPU 叢集化,並可在五個機架中支援無阻塞的 256-GPU 可擴充單元,或在九個機架中支援擴充的 768-GPU 可擴充單元。此架構原生支援 NVIDIA Enterprise 軟體,結合 Supermicro 在部署全球最大液冷資料中心方面的專業知識,為當今最具雄心的 AI 資料中心專案提供卓越的效率與無與倫比的上線時間。

NVIDIA Quantum InfiniBand 和 Spectrum Ethernet

從主流企業伺服器到高效能超級電腦,NVIDIA Quantum InfiniBand 與 Spectrum™ 網路技術可實現擴充性最高、速度最快且最安全的端到端網路。

NVIDIA Quantum-2 InfiniBand 平台
NVIDIA Quantum-2 InfiniBand 平台
NVIDIA Spectrum-X
NVIDIA Spectrum-X

NVIDIA SuperNICs

Supermicro 率先採用 NVIDIA SuperNIC:InfiniBand 使用 NVIDIA ConnectX,乙太網路使用 NVIDIA BlueField-3 SuperNIC。所有 Supermicro NVIDIA HGX B200 系統皆為每顆 GPU 配置 1:1 網路,支援 NVIDIA GPUDirect RDMA(InfiniBand)或 RoCE(乙太網路),實現大規模平行 AI 運算。

NVIDIA ConnectX SuperNIC
NVIDIA ConnectX SuperNIC
NVIDIA BlueField-3 超級網卡
NVIDIA BlueField-3 SuperNIC

NVIDIA AI Enterprise 軟體

完整存取 NVIDIA 應用程式框架、API、SDK、工具組與最佳化工具,並可部署 AI 藍圖、NVIDIA NIM、RAG 與最新最佳化 AI 基礎模型。NVIDIA AI Enterprise 軟體簡化了正式環境 AI 應用程式的開發與部署,提供企業級的安全性、支援與穩定性,確保從原型到正式環境的順利轉移。

NVIDIA H200 Tensor Core GPU 解決方案

為您的 AI 工作負載選擇合適的系統。Supermicro 擁有最廣泛的系統產品組合,針對 NVIDIA Hopper 與 Ada Lovelace 世代平台進行最佳化,包含 NVIDIA HGX H200、H200 NVL、GH200 Superchip 以及 L40S。體驗引爆 AI 革命之引擎的強大效能。

了解更多

資源