Ir al contenido principal
EBox Supermicro VAST EBox

El Supermicro EBox con CloudDC H14 CloudDC , una plataforma de almacenamiento totalmente flash diseñada específicamente y optimizada para la arquitectura Disaggregated Shared-Everything DASE) VAST . En combinación con VAST OS, que unifica el almacén de datos, la base de datos y el motor de IA en una única plataforma, el EBox una columna vertebral de almacenamiento para cargas de trabajo con un uso intensivo de datos y almacenamiento multitenant a hiperescala.

Cada EBox contenedores CNode computación) y DNode almacenamiento) en el mismo servidor, lo que elimina la necesidad de recintos de almacenamiento independientes y conserva la capacidad DASEpara escalar la computación y la capacidad de forma independiente en toda la estructura NVMe. Esta arquitectura ofrece una escalabilidad lineal de terabytes a exabytes en un único espacio de nombres global, con cifrado en línea, deduplicación y codificación de borrado gestionados de forma nativa sin necesidad de aceleradores externos. La gobernanza de la seguridad sigue los datos de extremo a extremo: los controles de acceso a los archivos de origen se propagan automáticamente a través de incrustaciones a los resultados de inferencia. Las redes RDMA de gran ancho de banda (200 GbE a través de NVIDIA® ConnectX®-7/8) permiten el movimiento de datos sin copia entre EBox y los clientes. Para las organizaciones que adoptan la IA empresarial, la misma EBox es compatible con VAST para canalizaciones RAG automatizadas y la base de datos vectorial nativa para consultas semánticas.

Solución Supermicro VAST CNode

La solución CNode AI Data Platform con Supermicro, NVIDIA y VAST ofrece una solución llave en mano de almacenamiento y flujo de trabajo de IA para la implementación de IA en empresas. Esta solución integra matrices de almacenamiento All-Flash, servidores de alto rendimiento y aceleradores GPU con el sistema operativo de IA VAST, que proporciona almacenamiento universal y una base de datos vectorial integrada, servicios de transmisión de eventos y un generador de canalizaciones de datos de bajo código para orquestar cargas de trabajo de IA.

La solución CNode sigue la arquitectura de referencia de la plataforma de datos de IA de NVIDIA, que incorpora la aceleración de la GPU en la plataforma de almacenamiento para acelerar la vectorización de datos, la búsqueda en bases de datos vectoriales y las cargas de trabajo de inferencia. Las ventajas de esta solución incluyen:

Plataformas de hardware validadas

Esta solución, que utiliza el probado Supermicro CloudDC AS -1116CS-TN de EBox , incorpora el servidor informático multi-GPU SYS-212GB-FNR 2U Supermicro, que admite dos GPU NVIDIA RTX PRO™ 6000 en un formato compacto de 2U. Con la incorporación de los conmutadores NVIDIA Spectrum™ y la red NVIDIA ConnectX®, se abarca toda la infraestructura necesaria para implementar rápidamente una solución de IA empresarial.

Pila de software integrada

El sistema operativo VAST , compatible con las bibliotecas de software de NVIDIA e integrado con las plataformas de hardware Supermicro, ofrece flujos de trabajo de IA preconfigurados y listos para ejecutar para agentes en tiempo real que utilizan VAST , y IA generativa empresarial que utiliza InsightEngine.

Fundación AI Factory

CNode puede ser la capa de almacenamiento para esta solución de IA empresarial más amplia, cuando se combina con los servidores de IA a gran escala Supermicro, incluidos nuestros servidores GPU de 8 vías que utilizan servidores HGX B300 de NVIDIA y las soluciones de refrigeración líquida integrales Supermicro.

Integración, pruebas e instalación de bastidores

Las complejas instalaciones de AI Factory se pueden implementar rápidamente utilizando los servicios de integración de racks Supermicro para la planificación de la arquitectura del sistema, la integración en fábrica, las pruebas y la instalación de software, la implementación in situ, la instalación de cables de red y las pruebas de aceptación.

Gestión integral

El conjunto de herramientas de gestión Supermicro Suite proporciona una gestión centralizada de todos Supermicro y subsistemas de refrigeración Supermicro , así como de conmutadores y servidores de terceros.

Pila completa de software de IA

Aproveche el hardware integrado con tecnología NVIDIA y VAST una completa pila de software:

Núcleo VAST

  • Computación GPU escalable y basada en eventos para procesos de IA
  • RAG en tiempo real y flujos de trabajo multimodales
  • VAST Orchestration (RKE2) para NVIDIA NIM

Núcleo VAST

  • Servicios de bases de datos transaccionales, analíticas y vectoriales
  • VAST Broker para la distribución de streaming de eventos

VAST

  • Servicios de almacenamiento de datos y caché KV distribuidos globalmente
  • Almacenamiento universal (NFS, S3, SMB, NVMe sobre TCP)
Supermicro AI-Ready InfrastructureNetwork & Fabrics2x NVIDIA Spectrum™ SN5600 Switches (880GbE)Accelerated Compute Nodes2x Supermicro CNode-X2x NVIDIA RTX PRO™ 6000 GPUs per node2x NVIDIA® ConnectX®-7 400G EthernetStorage Data PlatformVAST InsightEngine on Supermicro (EBox)Unified datastore & vector intelligence2x NVIDIA® ConnectX®-7 400G EthernetBuilt for Scalability and SimplicityScales from single rack to multi rackUnified design simplifies deployment and management

Servidor CloudDC A

CloudDC de un solo procesador 1U CloudDC DC-MHS, hasta 12 unidades de 2,5" intercambiables en caliente y 3 ranuras PCIe 5.0.

  • Procesador AMD serie 9005/9004 único
  • 12 DIMM (1 DPC); hasta 3 TB ECC DDR5 RDIMM con procesador EPYC serie EPYC
  • Opciones de red flexibles con 1 ranura de red AIOM (compatible con OCP NIC 3.0)
  • Ranuras de expansión: 2 PCIe 5.0 x16 FHHL; 1 ranura de red PCIe 5.0 AIOM
  • Fuentes de alimentación redundantes de titanio de 1000/2000 W (*Redundancia total basada en la configuración y la carga de la aplicación)
Supermicro para VAST : AS -1116CS-TN

AS -1116CS-TN

SuperServer GPU

Servidor de un solo procesador 2U con hasta 4 GPU NVIDIA® RTX PRO™ 6000

  • Procesador Intel® Xeon® serie 6700/6500 único con núcleos P
  • Compatible con hasta 4 tarjetas aceleradoras GPU PCIe de doble ancho.
  • Hasta 16 módulos DIMM que admiten hasta 1 TB DDR5-6400 en 1DPC o 2 TB DDR5-5200 en 2DPC o 512 GB DDR5-8000 en 1DPC.
  • Hasta 4 ranuras PCIe 5.0 x16 FHFL de doble ancho + 3 ranuras PCIe 5.0 x16 FHFL
  • Hasta 4 bahías traseras para unidades E1.S NVMe intercambiables en caliente
  • Fuentes de alimentación redundantes de titanio de 2700 W
Supermicro para VAST : SYS-212GB-FNR

SYS-212GB-FNR

Recursos destacados