採用英特爾 GaudiAI 加速器的深度學習優化高效能解決方案
適用於雲端規模的AI 與推論
自2013年起AI高效能AI（DL）訓練運算需求每3.5個月便翻倍增長（根據OpenAI數據），隨著數據集規模擴大，以及基於大型語言模型（LLMs）、電腦視覺、推薦系統等技術的應用與服務數量激增，此增長態勢正持續加速。
隨著市場對訓練推論 、吞吐量及處理能力的 demand 日益增加，業界亟需專為此設計的系統，以提供更高的效率、更低的成本、更簡易的部署、支援客製化的靈活性，以及AI 擴展能力。AI 成為各類領域不可或缺的技術，例如副駕駛系統、虛擬助理、製造自動化、自動駕駛車輛運作及醫學影像等，僅舉幾例。Supermicro Intel 合作，提供搭載 Intel GaudiAI 加速器的雲端規模系統與機架設計。
全新Supermicro X14 Gaudi® AI 與推論
Supermicro 嶄新的X14 AI 為企業AI 帶來更多選擇，該平台基於第三代 Intel® Gaudi 3 加速器打造，旨在進一步提升大規模AI 與AI 效率。Supermicro X14 3 解決方案提供風冷與液冷兩種配置，可輕鬆擴展以滿足各式各樣的AI 需求。
- 繪圖處理器：OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU：雙核心 Intel®Xeon® 處理器
- 記憶體：24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機：最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器：8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路：6 個內建 OSFP 800GbE 連接埠，可擴充規模
- 擴充插槽：2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作負載：AI 與推論
Supermicro Gaudi®2 AI 訓練伺服器
延續初代 Supermicro Gaudi AI 訓練系統的成功，Gaudi 2 AI 伺服器優先考量兩大關鍵因素：整合內建高速網路模組的 AI 加速器，以提升最先進 AI 模型訓練的運作效率；並為 AI 產業帶來 所需的選擇。
- GPU：8 張 Gaudi2 HL-225H 夾層卡
- CPU：雙顆第三代 Intel®Xeon® 處理器
- 記憶體：32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機：最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源：6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路：24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽：2 個 PCIe 4.0 交換器
- 工作負載：AI 與推論
資源
影片
Supermicro TECHTalk：基於 Intel 資料中心 GPU Flex 系列的全新媒體處理解決方案
