針對雲端規模AI 與推論
自2013年起AI高效能AI(DL)訓練運算需求每3.5個月便翻倍增長(根據OpenAI數據),隨著數據集規模擴大,以及基於大型語言模型(LLMs)、電腦視覺、推薦系統等技術的應用與服務數量激增,此增長態勢正持續加速。
隨著對更高訓練與推論效能、吞吐量及容量的需求日益增長,業界亟需專用系統來實現效能提升、成本降低、部署簡便、靈活客製化及AI 擴展能力。AI 成為諸多領域不可或缺的技術,例如飛行員輔助系統、虛擬助理、製造自動化、自動駕駛車輛運作及醫學影像等。Supermicro 英特爾Supermicro 英特爾GaudiAI ,提供雲端規模系統與機架設計方案。

全新Supermicro Gaudi® 3AI 與推論平台
為企業級AI 帶來更多選擇Supermicro AI 基於第三代Intel® Gaudi 3加速器打造,旨在進一步提升大規模AI 訓練與AI 的效能。Supermicro Gaudi 3解決方案提供風冷與液冷雙重配置,可輕鬆擴展以滿足AI 需求。
- 繪圖處理器:OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU:雙 Intel® Xeon® 6 處理器
- 記憶體:24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機:最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器:8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路:6 個內建 OSFP 800GbE 連接埠,可擴充規模
- 擴充插槽:2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作負載:AI 與推論
Supermicro AI 伺服器
Supermicro AI 系統成功基礎上,Gaudi 2AI 著重兩大核心考量:整合AI 與內建高速網路模組,以提升訓練尖端AI 的運作效能;同時為AI 提供所需的多元選擇。
- GPU:8 張 Gaudi2 HL-225H 夾層卡
- CPU:雙第三代 Intel® Xeon® 可擴展處理器
- 記憶體:32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機:最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源:6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路:24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽:2 個 PCIe 4.0 交換器
- 工作負載:AI 與推論
搭載 Intel® Gaudi® 3 的Supermicro ,專為AI 進行優化
搭載 Intel® Xeon® 6 系列處理器(含 P-Core)與 Intel Gaudi 3 加速器的全新Supermicro 相較前代產品展現性能提升
Supermicro Intel® Gaudi®AI 叢集參考設計
透過開源軟體與業界標準乙太網路架構,Supermicro X14 Intel® Gaudi® 3加速器系統加速並降低AI 成本
Supermicro Hyper 企業級 VMWAREAI
計算AI 應用案例:大型語言模型(LLM)AI 識別——ResNet50於英特爾® Data Center Flex 170 GPU平台
Supermicro :基於英特爾數據中心GPU Flex系列的新型媒體處理解決方案
觀看我們的產品專家探討基於剛發表的英特爾資料中心GPU Flex系列所打造Supermicro 。瞭解這些解決方案如何為您與您的企業創造效益。
實現可擴展的雲端遊戲服務
Supermicro Intel® 資料中心 GPU Flex 系列
Supermicro 服務供應商Supermicro 完整的系統元件,協助建構環保、經濟實惠且獲利豐厚的雲端遊戲基礎架構。
雲端遊戲、媒體、轉碼及AI 推理的創新解決方案
2022年9月8日 上午10:00(太平洋夏令時間)
Supermicro Intel 的產品及解決方案專家將於非正式會議中,探討採用近期發表的 Intel Flex 系列 GPU 在雲端遊戲、媒體傳輸、轉碼AI 領域的解決方案優勢。本次網路研討會將闡述Supermicro 優勢、理想伺服器配置,以及採用 Intel Flex 系列 GPU 的效益。
