英特爾高第的高效率、深度學習優化解決方案AI 加速器
對於雲端規模AI 訓練與推理
對高性能的需求AI /自 2013 年以來，深度學習 (DL) 訓練計算規模每 3.5 個月翻一番（據 OpenAI 稱），並且隨著數據集規模的增長以及基於大型語言模型 (LLM)、計算機視覺、推薦系統等的應用程序和服務數量的增加，這一增長速度還在加快。
隨著對更高訓練和推理性能、吞吐量和容量的需求不斷增長，行業需要專用系統，這些系統能夠提供更高的效率、更低的成本、更易於實施、更靈活以支援客製化和擴展。 AI 系統。 AI 已成為副駕駛、虛擬助理、製造自動化、自動駕駛汽車操作和醫學成像等許多領域的重要技術。 Supermicro 已與英特爾合作，利用英特爾高第技術提供雲端規模系統和機架設計。 AI 加速器。
新的Supermicro X14 Gaudi® 3 AI 訓練和推理平台
為企業帶來選擇AI 市場，新的Supermicro X14 AI 訓練平台基於第三代技術建構。 Intel® Gaudi 3 加速器旨在進一步提高大規模能源利用效率AI 模型訓練和AI 推理。提供風冷和液冷兩種配置。 Supermicro的X14 Gaudi 3 解決方案可輕鬆擴展，以滿足各種AI工作負載需求。
- 繪圖處理器：OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU ： 雙重的Intel® Xeon® 6個處理器
- 記憶體：24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機：最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器：8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路：6 個內建 OSFP 800GbE 連接埠，可擴充規模
- 擴充插槽：2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作量： AI 訓練與推理
Supermicro Gaudi®2 AI 訓練伺服器
基於原版 Supermicro Gaudi AI 訓練系統的成功，Gaudi 2 AI 伺服器著重於兩個關鍵考量：整合具備內建高速 Networking 模組的 AI 加速器，以提高訓練先進 AI 模型的運作效率，並為 AI 產業帶來所需的選擇。
- GPU：8 張 Gaudi2 HL-225H 夾層卡
- CPU雙第三代Intel® Xeon® 可擴充處理器
- 記憶體：32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機：最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源：6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路：24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽：2 個 PCIe 4.0 交換器
- 工作量： AI 訓練與推理
資源
影片
Supermicro 技術講座：基於英特爾資料中心GPU Flex系列的新型媒體處理解決方案
