采用英特尔高迪人工智能加速器的高效深度学习优化解决方案
用于云规模人工智能训练和推理
自 2013 年以来，对高性能人工智能/深度学习 (DL) 训练计算的需求每 3.5 个月翻一番（根据 OpenAI 的数据），而且随着数据集规模的不断扩大，以及基于大型语言模型 (LLM)、计算机视觉、推荐系统等的应用和服务数量的增加，这种需求还在加速增长。
随着对更高训练和推理性能、吞吐量和容量的需求不断增长，业界需要专门构建的系统，以提供更高的效率、更低的成本、易于实施、支持定制的灵活性以及 AI 系统的扩展能力。AI 已成为众多领域的关键技术，例如副驾驶、虚拟助手、制造自动化、自动驾驶操作和医学成像等。Supermicro 已与 Intel 合作，提供搭载 Intel Gaudi AI 加速器的云规模系统和机架设计。
全新 Supermicro X14 Gaudi® 3 AI 训练和推理平台
为企业 AI 市场带来更多选择，全新的 Supermicro X14 AI 训练平台基于第三代 Intel® Gaudi 3 加速器构建，旨在进一步提高大规模 AI 模型训练和 AI 推理的效率。Supermicro 的 X14 Gaudi 3 解决方案提供风冷和液冷两种配置，可轻松扩展以满足各种 AI 工作负载需求。
- 图形处理器OAM 2.0 底板上的 8 个高迪 3 HL-325L（风冷）或 HL-335（液冷）加速器
- 中央处理器双 Intel® Xeon® 6 处理器
- 内存：24 个 DIMM - 1DPC 中最多 6TB 内存
- 驱动器最多 8 个热插拔 PCIe 5.0 NVMe
- 电源：8 台 3000 瓦高效全冗余（4+4）钛级电源
- 网络：6 个板载 OSFP 800GbE 端口，用于扩展
- 扩展插槽：2 个 PCIe 5.0 x16 (FHHL) + 2 个 PCIe 5.0 x8 (FHHL)
- 工作量：人工智能训练和推理
Supermicro Gaudi®2 AI 训练服务器
在初代 Supermicro Gaudi AI 训练系统成功的基础上，Gaudi 2 AI 服务器优先考虑两个关键因素：一是将 AI 加速器与内置高速网络模块集成，以提高最先进 AI 模型训练的运行效率；二是为 AI 行业带来 所需的选择。
- 图形处理器8 块 Gaudi2 HL-225H 夹层卡
- 中央处理器双第 3 代英特尔® 至强® 可扩展处理器
- 内存32 个 DIMM - 高达 8TB 寄存 ECC DDR4-3200MHz SDRAM
- 驱动器：最多 24 个热插拔驱动器（SATA/NVMe/SAS）
- 电源：6x 3000W 高效（54V+12V）全冗余电源
- 网络：通过 6 个 QSFP-DD 连接 24 个 100GbE（48 x 56Gb）PAM4 SerDes 链路
- 扩展插槽：2 个 PCIe 4.0 交换机
- 工作量：人工智能训练和推理
资源
视频
Supermicro技术讲座：基于英特尔数据中心GPU Flex系列的新型媒体处理解决方案
