採用英特爾 GaudiAI 加速器的深度學習優化高效能解決方案
針對雲端規模AI 與推論
自2013年起AI高效能AI（DL）訓練運算需求每3.5個月便翻倍增長（根據OpenAI數據），隨著數據集規模擴大，以及基於大型語言模型（LLMs）、電腦視覺、推薦系統等技術的應用與服務數量激增，此增長態勢正持續加速。
隨著對更高訓練和推論效能、吞吐量和容量的需求不斷增長，業界需要專用系統，以提供更高的效率、更低的成本、易於實施、實現客製化的靈活性以及 AI 系統的擴展性。AI 已成為諸如副駕駛、虛擬助理、製造自動化、自動駕駛操作和醫學影像等眾多領域不可或缺的技術。Supermicro 已與 Intel 合作，提供搭載 Intel Gaudi AI 加速器的雲端規模系統和機架設計。
全新 Supermicro X14 Gaudi® 3 AI 訓練與推論平台
為企業 AI 市場帶來更多選擇，全新 Supermicro X14 AI 訓練平台採用第三代 Intel® Gaudi 3 加速器，旨在進一步提升大規模 AI 模型訓練和 AI 推論的效率。Supermicro 的 X14 Gaudi 3 解決方案提供氣冷和液冷配置，可輕鬆擴展以滿足廣泛的 AI 工作負載需求。
- 繪圖處理器：OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU：雙 Intel® Xeon® 6 處理器
- 記憶體：24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機：最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器：8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路：6 個內建 OSFP 800GbE 連接埠，可擴充規模
- 擴充插槽：2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作負載：AI 與推論
Supermicro Gaudi®2 AI 訓練伺服器
延續初代 Supermicro Gaudi AI 訓練系統的成功，Gaudi 2 AI 伺服器優先考量兩大關鍵因素：整合內建高速網路模組的 AI 加速器，以提升最先進 AI 模型訓練的運作效率；並為 AI 產業帶來 所需的選擇。
- GPU：8 張 Gaudi2 HL-225H 夾層卡
- CPU：雙第三代 Intel® Xeon® 可擴展處理器
- 記憶體：32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機：最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源：6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路：24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽：2 個 PCIe 4.0 交換器
- 工作負載：AI 與推論
資源
影片
Supermicro TECHTalk：基於 Intel 資料中心 GPU Flex 系列的全新媒體處理解決方案
