跳至主要内容
Supermicro 和VAST EBox 解决方案

这Supermicro EBox 由……驱动H14 CloudDC 服务器,一个专为服务器优化的全闪存存储平台VAST 数据Disaggregated Shared-Everything ( DASE架构。结合VAST AI OS 将数据存储、数据库和 AI 引擎统一到一个平台上。 EBox 为数据密集型工作负载和超大规模多租户存储构建存储骨干网。

每个EBox 运行两者CNode (计算)和DNode (存储)容器位于同一服务器上,无需单独的存储机箱,同时保持DASE能够独立地扩展计算和容量NVMe 该架构可在单一全局命名空间下实现从TB级到EB级的线性扩展,并原生支持内联加密、去重和纠删码,无需外部加速器。安全治理贯穿数据端到端:源文件的访问控制会自动通过嵌入传播到推理输出。高带宽RDMA网络(通过NVIDIA® ConnectX®-7/8实现200 GbE)支持零拷贝数据传输。 EBox 节点和客户端。对于采用企业级人工智能的组织而言,情况也是如此。 EBox 基础设施支持VAST InsightEngine 用于自动化 RAG 管道和用于语义查询的原生向量数据库。

Supermicro 和VAST CNode -X 解决方案

这CNode -X AI 数据平台解决方案Supermicro英伟达和VAST Data 为企业级 AI 部署提供了一套完整的 AI 存储和工作流解决方案。该解决方案集成了全闪存存储阵列、高性能服务器和 GPU 加速器。 VAST的 AI 操作系统提供通用存储和集成向量数据库、事件流服务以及低代码数据管道构建器,用于编排 AI 工作负载。

这CNode -X 解决方案遵循 NVIDIA 的 AI 数据平台参考架构,该架构将 GPU 加速集成到存储平台中,以加速数据向量化、向量数据库搜索和推理工作负载。该解决方案的优势包括:

已验证的硬件平台

使用已验证的方法Supermicro CloudDC 来自AS-1116CS-TN EBox 解决方案,此解决方案增加了Supermicro SYS-212GB-FNR 2U 多 GPU 计算服务器,支持两块 NVIDIA RTX PRO™ 6000 显卡Blackwell 服务器版 GPU 采用紧凑的 2U 机架式设计。此外,还配备了 NVIDIA Spectrum™ 交换机和 NVIDIA ConnectX® 网络组件,从而涵盖了快速部署企业级 AI 解决方案所需的所有基础设施。

集成软件栈

这VAST AI OS 由 NVIDIA 的软件库支持,并集成了Supermicro的硬件平台为实时代理提供预配置、即用型 AI 工作流程VAST AgentEngine 和使用 InsightEngine 的企业级生成式人工智能。

AI工厂基金会

CNode -X可以作为这种大型企业级 AI 解决方案的存储层,当与以下组件结合使用时: Supermicro的大规模人工智能服务器,包括我们使用NVIDIA HGX B300服务器的8路GPU服务器,以及Supermicro端到端液冷解决方案。

机架集成、测试和安装

使用以下方式可以快速部署复杂的AI工厂装置Supermicro的机架集成服务包括系统架构规划、工厂集成、测试和软件安装、现场部署、网络电缆安装和验收测试。

端到端管理

这Supermicro SuperCloud 管理工具套件提供统一的管理界面,涵盖所有内容。 Supermicro 系统和冷却子系统,以及第三方交换机和服务器。

完整的 AI 软件栈

利用NVIDIA提供的集成硬件, VAST :

VAST 加速核心

  • 面向人工智能流水线的可扩展、事件驱动型GPU计算
  • 实时 RAG 和多模态工作流程
  • VAST NVIDIA NIM 微服务的容器编排 (RKE2)

VAST 计算核心

  • 事务型、分析型和向量型数据库服务
  • VAST 用于分发事件流的事件代理

VAST 容量

  • 全球分布式数据存储和键值缓存服务
  • 通用存储(NFS、S3、SMB、 NVMe 通过 TCP)
Supermicro AI-Ready InfrastructureNetwork & Fabrics2x NVIDIA Spectrum™ SN5600 Switches (880GbE)Accelerated Compute Nodes2x Supermicro CNode-X2x NVIDIA RTX PRO™ 6000 GPUs per node2x NVIDIA® ConnectX®-7 400G EthernetStorage Data PlatformBuilt on NVIDIA AI Data Platform reference designVAST InsightEngine on Supermicro (EBox)Unified datastore & vector intelligence2x NVIDIA® ConnectX®-7 400G EthernetBuilt for Scalability and SimplicityScales from single rack to multi rackUnified design simplifies deployment and management

CloudDC A+ 服务器

1U 单处理器CloudDC 采用 DC-MHS 技术,最多可支持 12 个热插拔 2.5 英寸硬盘,以及 3 个PCIe 5.0个插槽

  • 单路 AMD EPYC™ 9005/9004 系列处理器
  • 12 个 DIMM 插槽(1 个 DPC);最高支持 3TB ECC 内存DDR5 RDIMM 内存EPYC 9005系列处理器
  • 通过 1 个 AIOM 网络插槽(兼容 OCP NIC 3.0)提供灵活的网络选项
  • 扩展槽位:2 PCIe 5.0 x 16 FHHL;1 PCIe 5.0 AIOM 网络插槽
  • 1000/2000W 冗余钛金级电源(*完全冗余取决于配置和应用负载)
Supermicro 系统VAST 解决方案:AS-1116CS-TN

AS -1116CS-TN

GPU SuperServer

2U 单处理器服务器,最多可配备 4 个 NVIDIA® RTX PRO™ 6000 GPU

  • 单英特尔® Xeon® 6700/6500系列处理器,带P核心
  • 支持最多 4 个双倍宽度PCIe GPU加速卡
  • 最多可支持 16 个 DIMM 插槽,最大容量达 1TB。 DDR5 -6400 以 1DPC 或 2TB 存储。 DDR5 -5200 2DPC 或 512GB DDR5 -8000 在 1DPC 中
  • 最多 4 PCIe 5.0 x 16 FHFL 双倍宽度 + 3 PCIe 5.0 x16 FHFL 插槽
  • 最多可支持 4 个后部热插拔 E1.S NVMe 驱动器托架
  • 2700W冗余钛金级电源
Supermicro 系统VAST 解决方案:SYS-212GB-FNR

SYS-212GB-FNR

特色资源