跳至內容

深入了解NVIDIA Blackwell

在AI技術不斷轉型的此刻,持續變化的Scaling Law也需基於更高的資料中心性能。我們與NVIDIA密切合作,推出最新NVIDIA Blackwell解決方案,並結合新一代氣冷式與液冷式架構,提供空前的運算效能、密度與效率。Supermicro透過可立即部署的AI資料中心建構組件解決方案,提供了能加速AI創新的永續、先進技術,是NVIDIA Blackwell部署與應用方面的最佳合作夥伴。

端到端AI資料中心建構組件解決方案的優勢

提供豐富多樣的氣冷與液冷系統配置多種 CPU 選項、完整的資料中心管理軟體套件、具備完整網路、佈線及叢集層級 L12 驗證的統包式機櫃層級整合,以及全球交付、支援與服務。

選擇Supermicro 英偉達Blackwell支援的系統
豐富的經驗
Supermicro的AI 資料中心建構模組解決方案為最大的液冷系統提供支持AI 全球資料中心部署。
靈活的產品/服務
氣冷或液冷式、GPU 最佳化、多種系統與機架外型規格、CPU、儲存裝置、網路選項。可根據您的需求進行最佳化。
液冷先驅
經過驗證、具備可擴充性且隨插即用的液冷解決方案,持續推動 AI 革命。專為 NVIDIA Blackwell 架構所設計。
快速上線
藉由全球產能、世界級的部署專業知識以及單一據點服務來加速交付,讓您的 AI 快速投入生產。

最緊湊的超大規模AI 平台

針對 OCP ORV3 設計進行最佳化的 NVIDIA HGX™ B300 系統,單機架最高可支援 144 個 GPU

Supermicro這款 2 OU 液冷 NVIDIA HGX B300 系統為超大規模部署提供了無與倫比的 GPU 密度。該系統採用先進的 DLC-2 技術,並符合 OCP ORV3 規範,每個緊湊型 8 GPU 節點均可安裝在 21 吋機架中,每個機架最多可容納 18 個節點和 144 個 GPU。本系統採用盲插式歧管連接和模組化 GPU/ CPU 採用托盤式架構,該系統可支援每個 B300 GPU 最高 1100W TDP 的功耗,同時大幅減少機架佔用空間、功耗和冷卻成本。是需要最高性能密度和卓越可維護性的AI工廠的理想選擇。

單一機架最多可容納 144 個液冷 GPU
1.8TB/s GPU 對 GPU 互連;
每張 GPU 配備 288 GB HBM3e
21 吋 OCP ORV3 標準化機架設計
整合 NVIDIA ConnectX-8 SuperNIC,支援 800Gb/s 運算網狀架構
Supermicro 44OU 機架,配備 18 個液冷式 2OU 前置 I/O NVIDIA HGX B300 8GPU 系統

適用於 AI 推論的 Ultra 效能

最先進的氣冷以及NVIDIA的液冷架構HGX™ B300

Supermicro NVIDIA HGX 平台驅動了全球許多規模最大的 AI 叢集,為當今具變革性的 AI 應用提供強大的運算輸出。現已搭載 NVIDIA Blackwell Ultra,這款 8U 氣冷系統將八個 1100W HGX B300 GPU(總計 2.3TB HBM3e 記憶體)的效能發揮到極致。八個前置 OSFP 連接埠整合了 800 Gb/s 的 ConnectX®-8 SuperNIC,可實現 NVIDIA Quantum-X800 infiniBand 或 Spectrum-X™ 乙太網路叢集的隨插即用部署。4U 液冷系統採用 DLC-2 技術,具備 98% 的熱回收率,可實現 40% 的資料中心節能效益。Supermicro Data Center Building Block Solutions® (DCBBS) 與現場部署專業技術提供完整的解決方案,涵蓋液冷、網路拓撲與纜線配置、供電及散熱管理,以加速 AI 工廠上線運作的時間。

機架內最多可容納 64 個(液冷)GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 288 GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 處理器
整合 NVIDIA ConnectX-8 SuperNIC,支援 800Gb/s 運算網狀架構
Supermicro 52U 機架,配備 8 套液冷式 4U 前置 I/O NVIDIA HGX B300 8 GPU 系統Supermicro 52U機架,附4個氣冷 8U 前置 I/O NVIDIA HGX B300 8GPU 系統

具備百億億次運算能力的機架

適用於 NVIDIA GB300 NVL72 的端到端液冷解決方案

這Supermicro NVIDIA GB300 NVL72 解決AI 從訓練基礎模型到大規模推理,它都面臨著巨大的運算需求。它結合了高運算能力。 AI 表現Supermicro採用直接液冷技術,可實現最高的運算密度和效率。基於 NVIDIA Blackwell Ultra單一機架整合了 72 個 NVIDIA B300 GPU,每個 GPU 配備 288GB HBM3e 記憶體。憑藉 1.8TB/s 的 NVLink 互連,GB300 NVL72 可在單一節點內作為百億億次級超級電腦運作。升級後的網路使整個運算架構的效能翻倍,支援 800 Gb/s 的速度。 Supermicro的製造能力和端到端服務加速了液冷式AI工廠的部署,並加快了 GB300 NVL72 叢集的上市時間。

36 個 NVIDIA Grace CPU 和 72 個 NVIDIA Blackwell Ultra GPU
透過所有 72 個 GPU 與 CPU 實現 1.8TB/s 的 GPU 與 GPU 互連
36 個 NVIDIA 72 核心 Grace Arm Neoverse V2 CPU
250kW CDU 液對液或 200kW 液對氣 Sidecar 選項
Supermicro 適用於 NVIDIA GB300 NVL72 超級叢集的 48U 機架Supermicro 適用於 NVIDIA GB200 NVL72 超級叢集的 48U 機架

氣冷式系統的進化

針對 NVIDIA HGX B200 8-GPU 重新設計與最佳化的暢銷氣冷式系統

新氣冷 NVIDIA HGX B200 8GPU 系統採用增強型散熱架構,具有高度可配置性。 CPU記憶體、儲存和網路功能,以及改進的正面或背面維護性。最多可安裝 4 個新的 8U/10U 機架。氣冷系統可以安裝並完全整合到機架中,在實現與上一代相同密度的同時,推理性能提升高達 15 倍,訓練性能提升高達 3 倍。 Supermicro NVIDIA HGX B200 系統配備 1:1 GPU 與 NIC 比例,支援 NVIDIA BlueField®-3或 NVIDIA ConnectX®-7 ,可在高效能運算架構中進行擴充。

每個機架最高支援 32 個 GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 180GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 系列處理器
新一代氣冷式散熱片與增強的維護便利性
Supermicro 52U機架,附5個氣冷 8U 前置 I/O NVIDIA HGX B200 8GPU 系統Supermicro 52U機架,附4個氣冷 10U 後置 I/O NVIDIA HGX B200 8GPU 系統

新一代液冷系統

單一機架最高可支援 96 個 NVIDIA HGX™ B200 GPU,具備極高的可擴充性與效率

全新前置 I/O 液冷式 4U NVIDIA HGX B200 8-GPU 系統採用 Supermicro 的 DLC-2 技術。直接式液體冷卻現在可捕捉高達 92% 由伺服器元件(例如 CPU、GPU、PCIe 交換晶片、DIMM、VRM 和 PSU)所產生的熱量,實現高達 40% 的資料中心節能效果,且噪音級別低至 50dB。這款全新架構進一步提升了針對 NVIDIA HGX H100/H200 8-GPU 系統所設計之上一代產品的效率與可維護性。機架規模設計提供 42U、48U 或 52U 配置,並搭配全新的垂直冷卻液分配歧管(CDM),讓水平歧管不再佔用寶貴的機架單位。這使得 42U 機架可容納 8 個系統共 64 個 NVIDIA Blackwell GPU,而 52U 機架則可容納多達 12 個系統共 96 個 NVIDIA GPU。

每個機架最高支援 96 個 GPU
1.8TB/s GPU 對 GPU 互連,每個 GPU 配備 180GB HBM3e
雙 Intel Xeon 6 或 AMD EPYC 9005/9004 系列處理器
Supermicro DLC-2 技術可實現高達 40% 的資料中心節能效果
Supermicro 48U 機架,配備 8 套液冷式 4U 前置 I/O NVIDIA HGX B200 8GPU 系統Supermicro 48U 機架,配備 8 套液冷 4U 後置 I/O NVIDIA HGX B200 8GPU 系統
採用 NVIDIA Blackwell 架構的 SuperCluster

為 NVIDIA Blackwell 隨插即用且可隨需部署的可擴充單元

全新 SuperCluster 設計提供 42U、48U 或 52U 機架組態,適用於氣冷式或液冷式資料中心,並在集中式機架中整合了 NVIDIA Quantum InfiniBand 或 NVIDIA Spectrum™ infiniBand Networking。其中液冷式 SuperCluster 支援在五個 42U/48U 機架中建構不封鎖的 256-GPU 可擴充單元,或在九個 52U 機架中建構擴充的 768-GPU 可擴充單元,以滿足最先進的 AI 資料中心部署需求。Supermicro 針對大型部署亦提供機櫃間 CDU 選項,以及無需廠務冷卻水的氣冷液冷混合式機架解決方案。氣冷式 SuperCluster 設計沿用上一代經過市場驗證、領先業界的架構,可在九個 48U 機架中提供 256-GPU 可擴充單元。

了解更多關於超級集群的信息

隨插即用 NVIDIA 可擴充單元,可隨時部署Blackwell

針對 NVIDIA Blackwell 的端到端資料中心模組化解決方案與部署服務

Supermicro 是全面的一站式解決方案供應商,具備全球製造規模,可提供資料中心級的解決方案設計、液冷技術、交換器、佈線、完整的資料中心管理軟體套件、L11 與 L12 解決方案驗證、現場安裝以及專業的支援與服務。憑藉分佈於聖荷西、歐洲和亞洲的生產設施,Supermicro 針對液冷或氣冷機架系統提供無與倫比的製造能力,確保如期交付、降低總體擁有成本(TCO)並維持一致的品質。

機架和資料中心整合服務

隨插即用 NVIDIA 可擴充單元,可隨時部署Blackwell
英偉達Blackwell 優化的基礎設施和軟體

Supermicro 的 NVIDIA Blackwell 解決方案在集中式機架中針對 NVIDIA Quantum InfiniBand 或 NVIDIA Spectrum™ Networking 進行了最佳化,以實現最佳的基礎設施擴充與 GPU 叢集,並可在五個機架中支援無阻塞的 256-GPU 可擴充單元,或在九個機架中支援擴充的 768-GPU 可擴充單元。此架構原生支援 NVIDIA Enterprise 軟體,結合 Supermicro 在部署全球最大液冷資料中心方面的專業知識,為當今最具雄心的 AI 資料中心專案提供卓越的效率與無與倫比的上線時間。

NVIDIA Quantum InfiniBand 和 Spectrum Ethernet

從 Mainstream 企業級伺服器到高效能超級電腦,NVIDIA Quantum InfiniBand 與 Spectrum™ Networking 技術可啟用最具擴充性、速度最快且最安全的端對端 Networking。

NVIDIA Quantum-2 InfiniBand 平台
NVIDIA Quantum-2 InfiniBand 平台
NVIDIA Spectrum-X
NVIDIA Spectrum-X

NVIDIA SuperNICs

Supermicro 走在採用 NVIDIA SuperNIC 的最前沿:針對 InfiniBand 的 NVIDIA ConnectX,以及針對 Ethernet 的 NVIDIA BlueField-3 SuperNIC。所有 Supermicro 的 NVIDIA HGX B200 系統均配備 1:1 的 Networking 至每個 GPU,以支援用於大規模平行 AI 運算的 NVIDIA GPUDirect RDMA(InfiniBand)或 RoCE(Ethernet)。

NVIDIA ConnectX SuperNIC
NVIDIA ConnectX 超級網路卡
NVIDIA BlueField-3 超級網卡
NVIDIA BlueField-3 SuperNIC

NVIDIA AI Enterprise 軟體

完整存取 NVIDIA 應用程式框架、API、SDK、工具組與最佳化工具,並具備部署 AI 藍圖、NVIDIA NIM、RAG 以及最新最佳化 AI 基礎模型的權能。NVIDIA AI Enterprise 軟體簡化了正式環境 AI 應用程式的開發與部署,提供企業級的安全性、支援與穩定性,確保從原型到正式環境的順利轉移。

NVIDIA H200 Tensor Core GPU 解決方案

為您的 AI 工作負載選擇合適的系統。Supermicro 擁有最廣泛的系統產品組合,針對 NVIDIA Hopper 與 Ada Lovelace 世代平台進行最佳化,包含 NVIDIA HGX H200、H200 NVL、GH200 Superchip 以及 L40S。體驗引爆 AI 革命之引擎的強大效能。

了解更多

資源

某些產品可能在您所在的地區無法購買。