用于云规模人工智能训练和推理
自 2013 年以来,对高性能人工智能/深度学习 (DL) 训练计算的需求每 3.5 个月翻一番(根据 OpenAI 的数据),而且随着数据集规模的不断扩大,以及基于大型语言模型 (LLM)、计算机视觉、推荐系统等的应用和服务数量的增加,这种需求还在加速增长。
随着对更高训练和推理性能、吞吐量和容量的需求不断增长,业界需要专门构建的系统,以提供更高的效率、更低的成本、易于实施、支持定制的灵活性以及 AI 系统的扩展能力。AI 已成为众多领域的关键技术,例如副驾驶、虚拟助手、制造自动化、自动驾驶操作和医学成像等。Supermicro 已与 Intel 合作,提供搭载 Intel Gaudi AI 加速器的云规模系统和机架设计。

全新 Supermicro X14 Gaudi® 3 AI 训练和推理平台
为企业 AI 市场带来更多选择,全新的 Supermicro X14 AI 训练平台基于第三代 Intel® Gaudi 3 加速器构建,旨在进一步提高大规模 AI 模型训练和 AI 推理的效率。Supermicro 的 X14 Gaudi 3 解决方案提供风冷和液冷两种配置,可轻松扩展以满足各种 AI 工作负载需求。
- 图形处理器OAM 2.0 底板上的 8 个高迪 3 HL-325L(风冷)或 HL-335(液冷)加速器
- 中央处理器双 Intel® Xeon® 6 处理器
- 内存:24 个 DIMM - 1DPC 中最多 6TB 内存
- 驱动器最多 8 个热插拔 PCIe 5.0 NVMe
- 电源:8 台 3000 瓦高效全冗余(4+4)钛级电源
- 网络:6 个板载 OSFP 800GbE 端口,用于扩展
- 扩展插槽:2 个 PCIe 5.0 x16 (FHHL) + 2 个 PCIe 5.0 x8 (FHHL)
- 工作量:人工智能训练和推理
Supermicro Gaudi®2 AI 训练服务器
在初代 Supermicro Gaudi AI 训练系统成功的基础上,Gaudi 2 AI 服务器优先考虑两个关键因素:一是将 AI 加速器与内置高速网络模块集成,以提高最先进 AI 模型训练的运行效率;二是为 AI 行业带来 所需的选择。
- 图形处理器8 块 Gaudi2 HL-225H 夹层卡
- 中央处理器双第 3 代英特尔® 至强® 可扩展处理器
- 内存32 个 DIMM - 高达 8TB 寄存 ECC DDR4-3200MHz SDRAM
- 驱动器:最多 24 个热插拔驱动器(SATA/NVMe/SAS)
- 电源:6x 3000W 高效(54V+12V)全冗余电源
- 网络:通过 6 个 QSFP-DD 连接 24 个 100GbE(48 x 56Gb)PAM4 SerDes 链路
- 扩展插槽:2 个 PCIe 4.0 交换机
- 工作量:人工智能训练和推理
边缘计算中的 AI 性能与能效——由英特尔提供支持
借助英特尔和Supermicro(Supermicro)专为边缘计算打造的系统解决方案,释放强大且节能的边缘AI性能。Supermicro的产品组合涵盖广泛的先进CPU和GPU,可在空间受限和远程环境中提供高性能、低延迟的AI处理结果,助力企业从容扩展数据驱动型应用。
- 通过集成 CPU、GPU 和 NPU 架构来优化性能
- 借助 OpenVINO 加速 AI 推理
- 在零售、医疗保健和制造业等行业部署可靠且节能的人工智能
Supermicro和英特尔® Xeon® 搭载Gaudi® 3 展现卓越性能
Supermicro与英特尔®携手提供混合CPU+GPU架构,采用英特尔® Xeon® 6和英特尔® Gaudi® 3,实现可扩展、经济高效的LLM推理
搭载 Intel® Gaudi® 3 的 Supermicro 服务器针对实际 AI 场景进行了优化
全新 Supermicro 服务器搭载 Intel® Xeon® 6 系列 P 核处理器和 Intel Gaudi 3 加速器,性能超越前代产品
Supermicro X14 Intel® Gaudi® AI 加速器集群参考设计
通过基于开源软件和行业标准以太网构建,借助 Supermicro 的 X14 Intel® Gaudi® 3 加速器系统,加速并降低 AI 解决方案的成本
Supermicro 和英特尔 GAUDI 3 系统助力企业级人工智能基础设施发展
使用英特尔Xeon 6 处理器的高带宽人工智能系统,可实现跨企业规模的高效 LLM 和 GenAI 训练与推理
Supermicro X13 Hyper 在 VMWARE 平台上赋能企业级 AI 工作负载。
计算人工智能工作负载使用案例:大型语言模型 (LLM) 和人工智能图像识别 - 英特尔® 数据中心 Flex 170 GPU 上的 ResNet50
Supermicro技术讲座:基于英特尔数据中心GPU Flex系列的新型媒体处理解决方案
观看我们的产品专家讨论基于最新发布的英特尔数据中心GPU Flex系列的Supermicro新解决方案。了解这些解决方案如何助您和您的公司受益。
提供可扩展的云游戏
搭载英特尔® 数据中心 GPU Flex 系列的 Supermicro 系统
Supermicro 提供所有系统组件,供云服务提供商构建绿色、经济高效且盈利的云游戏基础设施。
针对云游戏、媒体、转码和人工智能推理的创新解决方案
太平洋时间 2022 年 9 月 8 日上午 10:00
Supermicro 和英特尔的产品与解决方案专家将在一次非正式会议中讨论采用近期发布的英特尔 Flex 系列 GPU 的解决方案在云游戏、媒体交付、转码和 AI 推理领域的优势。本次网络研讨会将解释 Supermicro 解决方案的优势、理想的服务器以及使用英特尔 Flex 系列 GPU 的益处。

