采用英特尔高迪人工智能加速器的高效深度学习优化解决方案
用于云规模人工智能训练和推理
自 2013 年以来，对高性能人工智能/深度学习 (DL) 训练计算的需求每 3.5 个月翻一番（根据 OpenAI 的数据），而且随着数据集规模的不断扩大，以及基于大型语言模型 (LLM)、计算机视觉、推荐系统等的应用和服务数量的增加，这种需求还在加速增长。
随着对更高训练和推理性能、吞吐量和容量的需求不断增长，行业需要专门设计的系统，这些系统能够提供更高的效率、更低的成本、更易于实施、更灵活，从而支持定制和扩展人工智能系统。人工智能已成为诸多领域不可或缺的技术，例如副驾驶、虚拟助手、制造自动化、自动驾驶汽车运行和医学成像等等。 Supermicro 已与英特尔合作，提供基于英特尔 Gaudi AI 加速器的云规模系统和机架设计。
新的Supermicro X14 Gaudi® 3. 人工智能训练和推理平台
为企业人工智能市场带来更多选择，全新Supermicro X14 AI训练平台基于第三代英特尔® Gaudi 3加速器构建，旨在进一步提升大规模AI模型训练和AI推理的效率。提供风冷和液冷两种配置。 Supermicro的X14 Gaudi 3 解决方案可轻松扩展，以满足各种AI 工作负载需求。
- 图形处理器OAM 2.0 底板上的 8 个高迪 3 HL-325L（风冷）或 HL-335（液冷）加速器
- 中央处理器双 Intel® Xeon® 6 处理器
- 内存：24 个 DIMM - 1DPC 中最多 6TB 内存
- 驱动器最多 8 个热插拔 PCIe 5.0 NVMe
- 电源：8 台 3000 瓦高效全冗余（4+4）钛级电源
- 网络：6 个板载 OSFP 800GbE 端口，用于扩展
- 扩展插槽：2 个 PCIe 5.0 x16 (FHHL) + 2 个 PCIe 5.0 x8 (FHHL)
- 工作量：人工智能训练和推理
Supermicro Gaudi®2 AI 训练服务器
在原有成功的基础上Supermicro Gaudi AI 训练系统，Gaudi 2 AI 服务器优先考虑两个关键因素：将 AI 加速器与内置高速网络模块集成，以提高训练最先进的 AI 模型的运行效率，并为 AI 行业带来所需的选择。
- 图形处理器8 块 Gaudi2 HL-225H 夹层卡
- 中央处理器双第 3 代英特尔® 至强® 可扩展处理器
- 内存32 个 DIMM - 高达 8TB 寄存 ECC DDR4-3200MHz SDRAM
- 驱动器：最多 24 个热插拔驱动器（SATA/NVMe/SAS）
- 电源：6x 3000W 高效（54V+12V）全冗余电源
- 网络：通过 6 个 QSFP-DD 连接 24 个 100GbE（48 x 56Gb）PAM4 SerDes 链路
- 扩展插槽：2 个 PCIe 4.0 交换机
- 工作量：人工智能训练和推理
资源
视频
Supermicro 技术讲座：基于英特尔数据中心GPU Flex系列的新型媒体处理解决方案
