Matériel, dispositifs et équipements de mise en réseau pour les centres de données

L'IA rend nécessaire une infrastructure de calcul plus avancée, y compris la mise en réseau. Le manque de bande passante des réseaux crée souvent un goulot d'étranglement dans le traitement de l'information qui alimente les applications d'IA. L'infrastructure informatique accélérée est aussi rapide que son maillon le plus faible, et trop souvent, il s'agit du réseau. Heureusement, en travaillant avec NVIDIA, Supermicro a qualifié la nouvelle plate-forme réseau NVIDIA Spectrum-X dans plusieurs de ses systèmes pour permettre des performances réseau jusqu'à 1,6 fois supérieures pour les charges de travail d'IA, ainsi qu'une efficacité énergétique accrue et un coût total de possession réduit. En associant le commutateur Ethernet NVIDIA Spectrum-4 et le SuperNIC NVIDIA BlueField®-3, les clients peuvent désormais bénéficier de l'infrastructure de traitement du cloud AI Ethernet la plus performante.

Les systèmes désormais qualifiés avec la solution réseau NVIDIA Spectrum-X comprennent les très populaires SuperServers GPU de Supermicro qui existent en 4U, 5U et 8U et prennent en charge les GPU NVIDIA dans les systèmes suivants :

• Serveurs Supermicro 8U GPU avec systèmes NVIDIA HGX H100 8-GPU :
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS -8125GS-TNHR (8U) - CPU AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Serveurs Supermicro Universal GPU (4U et 5U) avec GPU NVIDIA H100 PCIe ou GPU NVIDIA L40S :
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS -4125GS-TNRT (4U) - AMD CPU
  • AS -4125GS-TNRT2 (4U) - AMD CPU

Ces systèmes Supermicro , équipés de NVIDIA Spectrum-X, réduisent les temps d'exécution de la formation et de l'inférence des modèles d'IA génératifs basés sur des transformateurs massifs, ce qui est essentiel pour obtenir des résultats et des informations plus rapides à partir de l'IA.

En plus d'augmenter considérablement les performances du réseau de 1,6 fois pour l'IA, les systèmes Supermicro dotés d'un réseau NVIDIA Spectrum-X bénéficient de l'isolation des performances des charges de travail dans les environnements multi-locataires. Permettre aux charges de travail de déplacer des données séparément et indépendamment, sans interférences entre voisins susceptibles d'entraver les performances, est essentiel pour les applications hautes performances. En outre, l'isolation des charges de travail du réseau apporte un avantage supplémentaire en termes de sécurité en empêchant les acteurs malveillants d'une charge de travail d'interférer avec une charge de travail distincte. NVIDIA Spectrum-X réalise cette isolation améliorée des charges de travail grâce à des nuages privés virtuels (VPC) sécurisés attribués à chaque locataire.

L'efficacité énergétique a toujours été une préoccupation essentielle lors de l'exploitation de systèmes d'IA de haute performance et de haute puissance. En augmentant les performances de mise en réseau dans la même enveloppe de puissance de mise en réseau, NVIDIA Spectrum-X peut contribuer à un environnement d'IA plus économe en énergie. Cette meilleure performance par watt se traduit par une consommation d'énergie globale plus faible et un coût total de possession potentiellement plus bas. Pour les utilisateurs qui s'appuient généralement sur le plafonnement de la puissance pour contrôler les coûts énergétiques, les systèmes Supermicro avec Spectrum-X permettent de s'assurer que les plafonds de consommation d'énergie ne sont pas dépassés.  

Les consommateurs qui ont standardisé le réseau Ethernet peuvent être assurés que NVIDIA Spectrum-X est entièrement basé sur les normes et complètement interopérable avec les piles basées sur Ethernet. De plus, les serveurs Supermicro équipés de NVIDIA Spectrum-X aident les clients à surmonter le défi le plus important du déploiement de l'IA : l'évolutivité. Avec la capacité de prendre en charge 256 ports 200G dans un seul commutateur ou 16K ports dans une topologie leaf/spine à deux niveaux, ce sont des systèmes idéaux pour les entreprises dont les besoins en infrastructure de calcul accéléré évoluent.

Comme Supermicro s'efforce de répondre aux besoins des clients de l'IA qui ont besoin non seulement d'un réseau de haute performance mais aussi d'une multi-location dans le cloud, les systèmes Supermicro avec NVIDIA Spectrum-X exploitent les extensions RDMA (remote direct memory access) sur Ethernet convergé (RoCE) pour prendre en charge à la fois les performances et la multi-location. Les performances par rapport à l'Ethernet traditionnel sont étonnantes, comme l'illustre le graphique ci-dessous.  

La technologie réseau révolutionnaire de NVIDIA, présente dans de nombreux serveurs Supermicro , permet d'atteindre des performances réseau révolutionnaires pour l'IA, l'isolation des performances multi-locataires et une meilleure efficacité énergétique. Tout cela se fait en s'appuyant sur les normes de réseau Ethernet en associant le commutateur Ethernet NVIDIA Spectrum-4 au SuperNIC NVIDIA BlueField-3. Cette association a pour effet net d'aider à réduire les temps d'exécution des modèles d'IA génératifs massifs. Ces systèmes Supermicro équipés de NVIDIA Spectrum-X conviennent parfaitement aux clients qui ont besoin d'un temps plus court pour obtenir des informations critiques, d'une multi-location et d'une évolutivité future pour répondre à leurs besoins.