En la era de la IA, la capacidad de procesamiento ya no se mide únicamente por el número de servidores. La inteligencia artificial actual se construye mediante la interconexión de GPU, CPU, memoria, almacenamiento y otros recursos distribuidos en múltiples nodos en racks. Esta infraestructura requiere redes de alta velocidad y baja latencia, así como tecnologías de refrigeración y suministro eléctrico cuidadosamente diseñadas para garantizar un rendimiento y una eficiencia óptimos en cada centro de datos. Supermicro La solución SuperCluster de proporciona soluciones integrales de centros de datos de IA para la IA generativa y los modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) en rápida evolución.
Integración completa a escala
Diseño y construcción de racks y clústeres completos con una capacidad de fabricación global de hasta 5,000 estantes por mes
Pruebe, valide e implemente con servicio in situ.
Los procesos de prueba L11 y L12, de eficacia comprobada, validan exhaustivamente la efectividad y eficiencia operativa antes del envío.
Refrigeración líquida / Refrigeración por aire
Solución de refrigeración líquida o por aire totalmente integrada con placas frías para GPU y CPU, unidades de distribución de refrigeración y colectores.
Gestión de suministros e inventarios
Solución integral para la entrega rápida y puntual de racks totalmente integrados, reduciendo el tiempo de implementación para un despliegue ágil.
La solución completa de centro de datos llave en mano acelera el tiempo de entrega para casos de uso empresarial de misión crítica, y elimina la complejidad de construir un gran clúster, que anteriormente sólo era posible mediante el ajuste de diseño intensivo y la optimización que consume tiempo de la supercomputación.
Clúster de IA NVIDIA HGX B300 de 2U con refrigeración líquida
Clúster de 144 nodos totalmente integrado con refrigeración líquida y hasta 1152 GPU NVIDIA B300.
- Densidad de rendimiento de entrenamiento de IA sin igual gracias a NVIDIA HGX B300 con nodos de sistema compactos de 2U refrigerados por líquido.
- Supermicro Refrigeración líquida directa con unidades de distribución de refrigerante (CDU) en fila de 1,8 MW de capacidad (en rack). CDU (opciones disponibles)
- Gran capacidad de memoria HBM3e para GPU (288 GB* de memoria HBM3e por GPU) y consumo de memoria del sistema para el entrenamiento del modelo base.
- Escalabilidad horizontal con NVIDIA Quantum-X800 InfiniBand para ultra -Tejidos de IA de baja latencia y alto ancho de banda
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Diseñado para ser totalmente compatible con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
Clúster de IA NVIDIA HGX B300 de 4U con refrigeración líquida
Clúster de 72 nodos totalmente integrado con refrigeración líquida y capacidad para hasta 576 GPU NVIDIA B300.
- Implementa entrenamiento e inferencia de IA de alto rendimiento con NVIDIA HGX B300 optimizada para densidad de cómputo y facilidad de mantenimiento.
- Supermicro Refrigeración líquida directa diseñada para un funcionamiento continuo de alta potencia y una mayor eficiencia energética.
- Gran capacidad de memoria HBM3e para GPU (288 GB* de memoria HBM3e por GPU) y consumo de memoria del sistema para el entrenamiento del modelo base.
- Escalabilidad horizontal con NVIDIA Spectrum™-X Ethernet o NVIDIA Quantum-X800 InfiniBand
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Diseñado para ser totalmente compatible con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
Clúster de IA NVIDIA HGX B300 de 8U con refrigeración por aire
Clúster de 32 nodos totalmente integrado y refrigerado por aire con hasta 256 GPU NVIDIA HGX B300 y 73,7 TB de memoria HBM3e total.
- Soluciones full-stack basadas en arquitecturas de referencia que incluyen: Supermicro sistemas, GPU NVIDIA, software NVIDIA y redes NVIDIA
- Hasta 256 GPU NVIDIA HGX B300 que proporcionan hasta 73,7 TB de memoria HBM3e total (288 GB de HBM3e por GPU*).
- Compatibilidad con el conjunto de software de NVIDIA (NVIDIA AI Enterprise y NVIDIA Run:ai)
- Solución plug-and-play con sistemas totalmente integrados en racks y probados antes del envío y la instalación.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet Compute Fabric o NVIDIA Quantum-X800. InfiniBand ; Gestión de red convergente y fuera de banda incluida
- Supermicro Soluciones AI Factory avaladas por NVIDIA para la configuración de infraestructura, redes Spectrum-X y pila de referencia de software basada en la arquitectura de referencia empresarial de NVIDIA para HGX B300.
Nodo informático
Clúster de IA NVIDIA HGX B200 con refrigeración líquida
Con hasta 32 sistemas NVIDIA HGX B200 de 8 GPU y 4U con refrigeración líquida (256 GPU) en 5 racks.
- Implemente el máximo rendimiento en entrenamiento e inferencia de IA con 256 GPU NVIDIA B200 en una unidad escalable (5 racks).
- Supermicro Refrigeración líquida directa con unidad de distribución de refrigerante en rack de 250 kW de capacidad ( CDU ) con fuente de alimentación redundante y bombas duales de intercambio en caliente
- 45 TB de memoria HBM3e en una unidad escalable.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Diseñado para ser totalmente compatible con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
Clúster de IA NVIDIA HGX B200 con refrigeración por aire
Con 32 sistemas NVIDIA HGX B200 de 8 GPU y 10U refrigerados por aire (256 GPU) en 9 racks.
- Arquitectura líder en la industria, de eficacia probada, con una nueva plataforma de sistema de refrigeración por aire optimizada térmicamente.
- 45 TB de memoria HBM3e en una unidad escalable.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Nodos de sistema certificados por NVIDIA, totalmente compatibles con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
NVIDIA GB300 NVL72
Computación a exaescala con refrigeración líquida en un solo rack.
- Solución a escala de rack con NVIDIA GB300 Grace™ Blackwell Superchip proporciona 72 GPU NVIDIA B300 y 36 CPU Grace por rack.
- NVIDIA Blackwell Ultra con 288 GB HBM3e por GPU
- Refrigeración líquida directa para una reducción de hasta un 40 % en el coste de electricidad del centro de datos.
- Servicio integral desde la consultoría hasta la implementación a gran escala, proporcionando todos los componentes necesarios, soluciones de red y servicios de instalación in situ.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Hasta 800 Gb/s NVIDIA Quantum-2 InfiniBand o Ethernet Spectrum-X con SuperNIC NVIDIA ConnectX®-8 integradas.
Solución de estantería
NVIDIA GB200 NVL72
Computación a exaescala con refrigeración líquida en un solo rack.
- 72x NVIDIA Blackwell Las GPU B200 funcionan como una sola GPU con un enorme conjunto de memoria HBM3e (13,5 TB por rack).
- 9 conmutadores NVLink, 4 puertos por bandeja de cómputo que conectan 72 GPU para proporcionar una interconexión GPU a GPU de 1,8 TB/s.
- Supermicro Refrigeración líquida directa con unidad de distribución de refrigerante en rack de 250 kW de capacidad ( CDU ) con fuente de alimentación redundante y bombas duales de intercambio en caliente
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Diseñado para ser totalmente compatible con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Solución de estantería
Supercluster NVIDIA RTX PRO™
Soluciones de IA para fábricas con NVIDIA RTX PRO 6000 Blackwell Edición para servidor
- Soluciones full-stack basadas en arquitecturas de referencia que incluyen: Supermicro sistemas, GPU NVIDIA, software NVIDIA y redes NVIDIA
- Hasta 256x NVIDIA RTX PRO 6000 Blackwell GPU Server Edition que proporcionan hasta 24 TB de memoria GDDR7.
- Compatibilidad con el conjunto de software de NVIDIA (NVIDIA AI Enterprise, NVIDIA Omniverse y NVIDIA Run:ai).
- Solución plug-and-play con sistemas totalmente integrados en racks y probados antes del envío y la instalación.
- Incluye la plataforma de computación Ethernet NVIDIA Spectrum-X , red convergente y gestión fuera de banda.
- Supermicro Soluciones AI Factory avaladas por NVIDIA para la configuración de infraestructura, redes Spectrum-X y pila de referencia de software basada en la arquitectura de referencia empresarial de NVIDIA para RTX PRO 6000. Blackwell Edición para servidor
Nodo informático
Clúster de IA refrigerado por líquido líder en el mercado
Con 32 sistemas NVIDIA HGX H200 de 8 GPU y 4U refrigerados por líquido (256 GPU) en 5 racks.
- Duplicación de la densidad de cálculo a través de la solución de refrigeración líquida personalizada de Supermicro con una reducción de hasta el 40% en el coste de electricidad para el centro de datos.
- 256 GPU NVIDIA H200 en una unidad escalable.
- 36 TB de HBM3e con H200 en una unidad escalable.
- Opciones de almacenamiento dedicadas con soporte completo para NVIDIA GPUDirect RDMA y almacenamiento o RoCE.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Nodos de sistema certificados por NVIDIA, totalmente compatibles con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
Diseño probado
Con 32 sistemas NVIDIA HGX H200 de 8 GPU y 8U refrigerados por aire (256 GPU) en 9 racks.
- Arquitectura probada líder del sector para implantaciones de infraestructuras de IA a gran escala
- 256 GPU NVIDIA H200 en una unidad escalable.
- 36 TB de HBM3e con H200 en una unidad escalable.
- Escalabilidad horizontal con NVIDIA Spectrum-X Ethernet de 400 Gb/s o NVIDIA Quantum-2. InfiniBand
- Tejido de almacenamiento de canalización de datos de IA personalizable con opciones de sistemas de archivos paralelos líderes del sector
- Nodos de sistema certificados por NVIDIA, totalmente compatibles con las plataformas de software de IA de NVIDIA, incluidas NVIDIA AI Enterprise y NVIDIA Run:ai.
Nodo informático
