Hardware, dispositivos y equipos de red para centros de datos

La IA está impulsando la necesidad de una infraestructura informática más avanzada, incluidas las redes. La falta de ancho de banda de la red suele crear un cuello de botella en el procesamiento de la información que impulsa las aplicaciones de IA. La infraestructura informática acelerada es tan rápida como su eslabón más débil, y con demasiada frecuencia, ese es el eslabón más débil. Afortunadamente, al trabajar con NVIDIA, Supermicro NVIDIA ha homologado la nueva plataforma de red NVIDIA Spectrum-X en varios de sus sistemas para ofrecer un rendimiento de red hasta 1,6 veces superior para cargas de trabajo de IA, además de una mayor eficiencia energética y una reducción del coste total de propiedad. Gracias a la combinación del conmutador Ethernet NVIDIA Spectrum-4 y la tarjeta de red NVIDIA BlueField®-3 SuperNIC, los clientes ahora pueden aprovechar la infraestructura de procesamiento en la nube de IA Ethernet de mayor rendimiento.

Los sistemas que ahora se están certificando con la solución de red NVIDIA Spectrum-X incluyen: Supermicro GPU muy popular SuperServers que vienen en alturas de 4U, 5U y 8U y son compatibles con las GPU de NVIDIA en los siguientes sistemas:

• Supermicro Servidores GPU 8U con sistemas NVIDIA HGX H100 de 8 GPU:
  • SYS-821GE-TNHR (8U) – Procesadores Intel
  • AS-8125GS-TNHR (8U) – AMD CPU
  • SYS-421GU-TNXR (4U) – CPU Intel
• Supermicro Servidores GPU universales (4U y 5U) con NVIDIA H100 PCIe GPU o GPU NVIDIA L40S:
  • SYS-521GE-TNRT (5U) – Procesadores Intel
  • SYS-421GE-TNRT (4U) – CPU Intel
  • SYS-421GE-TNRT3 (4U) – CPU Intel
  • AS-4125GS-TNRT (4U) – AMD UPC
  • AS-4125GS-TNRT2 (4U) – AMD UPC

Estos Supermicro Los sistemas, impulsados ​​por NVIDIA Spectrum-X, reducen los tiempos de ejecución de entrenamiento e inferencia de los modelos de IA generativos masivos basados ​​en transformadores, lo cual es esencial para ofrecer resultados e información más rápidos a partir de la IA.

Además de aumentar enormemente el rendimiento de la red en 1,6 veces para la IA, Supermicro Los sistemas con conectividad de red NVIDIA Spectrum-X se benefician del aislamiento del rendimiento de las cargas de trabajo en entornos multiusuario. Permitir que las cargas de trabajo transfieran datos de forma independiente y sin interferencias externas que puedan afectar el rendimiento es fundamental para las aplicaciones de alto rendimiento. Además, el aislamiento de las cargas de trabajo de red proporciona una ventaja de seguridad adicional al impedir que agentes malintencionados en una carga de trabajo interfieran con otra. NVIDIA Spectrum-X logra este aislamiento mejorado de las cargas de trabajo mediante nubes privadas virtuales (VPC) seguras asignadas a cada usuario.

La eficiencia energética siempre ha sido una preocupación crítica al operar sistemas de IA de alto rendimiento y alta potencia. Al ofrecer un mayor rendimiento de red dentro del mismo límite de potencia de red, NVIDIA Spectrum-X puede contribuir a un entorno de IA más eficiente en términos de energía. Este mejor rendimiento por vatio conlleva un menor consumo de energía general y, potencialmente, un menor costo total de propiedad. Para los usuarios que suelen depender de la limitación de potencia para mantener el control de los costos de energía, Supermicro Los sistemas con Spectrum-X ayudan a garantizar que no se superen los límites de consumo de energía.  

Los consumidores que tienen redes Ethernet estandarizadas pueden estar seguros de que NVIDIA Spectrum-X se basa completamente en estándares y es totalmente interoperable con pilas basadas en Ethernet. Además, Supermicro Los servidores con NVIDIA Spectrum-X ayudan a los clientes a superar el desafío más importante del despliegue de IA: la escalabilidad. Con capacidad para admitir 256 puertos de 200G en un solo conmutador o 16K puertos en una topología leaf/spine de dos niveles, estos sistemas son ideales para organizaciones con necesidades de infraestructura de computación acelerada en constante evolución.

Como Supermicro se esfuerza por satisfacer las necesidades de los clientes de IA que necesitan no solo redes de alto rendimiento, sino también multiusuario en la nube, Supermicro Los sistemas con NVIDIA Spectrum-X aprovechan el acceso directo a memoria remota (RDMA) sobre extensiones de Ethernet convergente (RoCE) para ofrecer un rendimiento óptimo y compatibilidad con múltiples usuarios. El rendimiento sobre Ethernet tradicional es asombroso, como se muestra en el gráfico a continuación.  

La innovadora tecnología de redes de NVIDIA, incluyendo numerosas Supermicro Los servidores logran un rendimiento de red revolucionario para IA, aislamiento de rendimiento multiusuario y mayor eficiencia energética. Todo esto se consigue aprovechando los estándares de red Ethernet mediante la combinación del conmutador Ethernet NVIDIA Spectrum-4 con la tarjeta de red NVIDIA BlueField-3 SuperNIC. Esta combinación tiene el efecto neto de ayudar a reducir los tiempos de ejecución de modelos masivos de IA generativa. Para los clientes que necesitan un acceso más rápido a información crítica, multiusuario y escalabilidad futura, estos Supermicro Los sistemas con NVIDIA Spectrum-X son ideales para satisfacer sus necesidades.