Hardware de red, dispositivos y equipos para centros de datos

La IA está impulsando la necesidad de una infraestructura informática más avanzada, incluidas las redes. La falta de ancho de banda de red a menudo crea un cuello de botella en el procesamiento de la información que impulsa las aplicaciones de IA. La infraestructura informática acelerada es tan rápida como su eslabón más débil y, con demasiada frecuencia, ese eslabón es la red. Afortunadamente, gracias a su colaboración con NVIDIA, Supermicro homologado la nueva plataforma de redes NVIDIA Spectrum-X en varios de sus sistemas para permitir un rendimiento de red hasta 1,6 veces superior para las cargas de trabajo de IA, junto con una mayor eficiencia energética y un menor coste total de propiedad. Con la combinación del conmutador Ethernet NVIDIA Spectrum-4 y la SuperNIC NVIDIA BlueField®-3, los clientes pueden ahora aprovechar la infraestructura de procesamiento en la nube de IA Ethernet de mayor rendimiento.

Los sistemas que actualmente están siendo homologados con la solución de red NVIDIA Spectrum-X incluyen los populares GPU SuperServers Supermicro, disponibles en alturas de 4U, 5U y 8U, y compatibles con las GPU de NVIDIA en los siguientes sistemas:

• Servidores Supermicro GPU con sistemas NVIDIA HGX H100 de 8 GPU:
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS -8125GS-TNHR (8U) - CPUs AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Servidores GPU Supermicro (4U y 5U) con GPU NVIDIA H100 PCIe o GPU NVIDIA L40S:
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS -4125GS-TNRT (4U) - CPU AMD
  • AS -4125GS-TNRT2 (4U) - CPU AMD

Estos Supermicro , equipados con NVIDIA Spectrum-X, reducen los tiempos de ejecución de entrenamiento e inferencia de los modelos de IA generativa basados en transformadores masivos, esenciales para obtener resultados e información más rápidos de la IA.

Además de aumentar enormemente el rendimiento de la red en 1,6 veces para la IA, Supermicro con redes NVIDIA Spectrum-X se benefician del aislamiento del rendimiento de las cargas de trabajo en entornos multitenant. Permitir que las cargas de trabajo muevan datos de forma separada e independiente, sin interferencias de «vecinos ruidosos» que puedan obstaculizar el rendimiento, es fundamental para las aplicaciones de alto rendimiento. Además, el aislamiento de las cargas de trabajo de red proporciona una ventaja de seguridad añadida, ya que evita que los actores maliciosos de una carga de trabajo interfieran en otra carga de trabajo independiente. NVIDIA Spectrum-X logra este aislamiento mejorado de las cargas de trabajo mediante nubes privadas virtuales (VPC) seguras asignadas a cada inquilino.

La eficiencia energética siempre ha sido una preocupación fundamental a la hora de operar sistemas de IA de alto rendimiento y alta potencia. Al ofrecer un mayor rendimiento de red dentro de la misma envolvente de potencia de red, NVIDIA Spectrum-X puede contribuir a un entorno de IA más eficiente desde el punto de vista energético. Este mejor rendimiento por vatio se traduce en un menor consumo energético global y, potencialmente, en un menor coste total de propiedad. Para los usuarios que suelen recurrir a la limitación de potencia para controlar los costes energéticos, Supermicro con Spectrum-X ayudan a garantizar que no se superen los límites de consumo energético.  

Los consumidores que cuentan con redes Ethernet estandarizadas pueden estar seguros de que NVIDIA Spectrum-X se basa totalmente en estándares y es completamente interoperable con pilas basadas en Ethernet. Además, Supermicro con NVIDIA Spectrum-X ayudan a los clientes a superar el reto más importante de la implementación de la IA: la escalabilidad. Con la capacidad de admitir 256 puertos de 200G en un solo conmutador o 16 000 puertos en una topología de dos niveles leaf/spine, estos son sistemas ideales para organizaciones con necesidades de infraestructura informática acelerada en constante evolución.

Dado que Supermicro por satisfacer las necesidades de los clientes de IA que no solo necesitan redes de alto rendimiento, sino también multitenencia en la nube, Supermicro con NVIDIA Spectrum-X aprovechan las extensiones de acceso directo a memoria remota (RDMA) sobre Ethernet convergente (RoCE) para admitir tanto el rendimiento como la multitenencia. El rendimiento con respecto al Ethernet tradicional es asombroso, como se ilustra en el gráfico siguiente.  

La innovadora tecnología de red de NVIDIA, incluida en numerosos Supermicro , logra un rendimiento de red revolucionario para la IA, aislamiento del rendimiento multitenant y mayor eficiencia energética. Todo ello se consigue basándose en los estándares de red Ethernet, al combinar el conmutador Ethernet NVIDIA Spectrum-4 con la SuperNIC NVIDIA BlueField-3. Esta combinación tiene el efecto neto de ayudar a reducir los tiempos de ejecución de los modelos generativos de IA a gran escala. Para los clientes que necesitan obtener información crítica más rápidamente, multitenencia y escalabilidad futura, estos Supermicro con NVIDIA Spectrum-X son ideales para satisfacer sus necesidades.