資料中心的網路硬體、裝置與設備
AI 這推動了對更先進的運算基礎設施（包括網路）的需求。網路頻寬不足通常會在資訊處理過程中造成瓶頸，進而影響整個計算過程。 AI 應用程式.加速運算基礎設施的速度取決於其最薄弱的環節，而通常情況下，這個薄弱環節就是網路。幸運的是，透過與 NVIDIA 合作， Supermicro 在其多個系統中已驗證了新的 NVIDIA Spectrum-X 網路平台，可將網路效能提升高達 1.6 倍。 AI 工作負載效能提升，同時能源效率提高，整體擁有成本降低。 NVIDIA Spectrum-4 乙太網路交換器與 NVIDIA BlueField®-3 SuperNIC 的組合，使客戶能夠充分利用高效能乙太網路。 AI 雲端處理基礎架構。
目前正在通過 NVIDIA Spectrum-X 網路解決方案認證的系統包括Supermicro非常受歡迎的GPU SuperServers 提供 4U、5U 和 8U 三種高度規格，並支援以下系統中的 NVIDIA GPU：
- Supermicro 配備NVIDIA HGX H100 8GPU系統的8U GPU伺服器：
- SYS-821GE-TNHR(8U) - Intel CPU
- AS -8125GS-TNHR(8U) -AMD CPU
- SYS-421GU-TNXR(4U) - Intel CPU
- Supermicro 通用GPU伺服器（4U和5U），配備NVIDIA H100 PCIe GPU 或 NVIDIA L40S GPU：
- SYS-521GE-TNRT(5U) - Intel CPU
- SYS-421GE-TNRT(4U) - Intel CPU
- SYS-421GE-TNRT3(4U) - Intel CPU
- AS-4125GS-TNRT （4U） AMD CPU
- AS-4125GS-TNRT2 （4U） AMD CPU
這些Supermicro 由 NVIDIA Spectrum-X 提供支援的系統，減少了訓練和推論 大規模基於Transformer的生成式運行時AI 模型對於更快提供結果和洞察至關重要AI 。
除了將網路效能大幅提升 1.6 倍之外， AI ， Supermicro 採用 NVIDIA Spectrum-X 網路技術的系統能夠有效隔離多租戶環境中的工作負載效能。對於高效能應用而言，允許工作負載獨立地移動數據，避免「鄰居幹擾」（即「嘈雜鄰居」幹擾），至關重要。此外，隔離網路工作負載還能帶來額外的安全優勢，防止一個工作負載中的惡意行為者乾擾其他工作負載。 NVIDIA Spectrum-X 透過為每個租用戶分配安全的虛擬私有雲 (VPC) 來實現這種增強的工作負載隔離。
在運行高性能、高功率設備時，能源效率始終是一個至關重要的問題。 AI NVIDIA Spectrum-X 能夠在相同的網路功耗範圍內提供更高的網路效能，有助於提高系統的能源效率。 AI 環境方面，更高的每瓦效能意味著更低的整體功耗，並有可能降低總擁有成本。對於通常依賴功率限制來控制能源成本的使用者而言， Supermicro 配備 Spectrum-X 的系統有助於確保能源消耗不會超過上限。
對於採用標準乙太網路的使用者而言，NVIDIA Spectrum-X 完全符合標準，並且與基於乙太網路的協定棧完全相容。此外， Supermicro 配備 NVIDIA Spectrum-X 的伺服器可協助客戶克服部署過程中最大的挑戰。 AI —可擴展性。這些系統能夠在單一交換機中支援 256 個 200G 端口，或在兩層葉脊拓撲結構中支援 16K 個端口，是滿足不斷發展的加速計算基礎設施需求的組織的理想選擇。
作為Supermicro 努力滿足以下需求AI 不僅需要高效能網絡，還需要雲端多租戶的客戶Supermicro 搭載 NVIDIA Spectrum-X 的系統利用基於融合乙太網路的遠端直接記憶體存取 (RDMA) (RoCE) 擴展，以支援高效能和多租戶。如下圖所示，其在傳統乙太網路上的效能表現令人驚嘆。
NVIDIA 的突破性網路技術，包括眾多應用領域。 Supermicro 伺服器，實現突破性的網路效能AI多租戶效能隔離和更高的能源效率。所有這些都是透過將 NVIDIA Spectrum-4 乙太網路交換器與 NVIDIA BlueField-3 SuperNIC 結合，並基於乙太網路標準來實現的。這種組合最終有助於減少大規模生成式運算的運行時間。 AI 模型。對於需要更快獲得關鍵洞察、多租戶和未來可擴展性的客戶而言，這些Supermicro 配備 NVIDIA Spectrum-X 的系統非常適合滿足他們的需求。