Matériel, dispositifs et équipements de réseau pour centres de données

L'IA engendre un besoin accru en infrastructures informatiques plus performantes, notamment en matière de réseau. Un manque de bande passante réseau crée souvent un goulot d'étranglement dans le traitement de l'information qui sous-tend les applications d'IA. Une infrastructure de calcul accéléré est aussi rapide que son maillon le plus faible, et bien trop souvent, il s'agit du réseau. Heureusement, grâce à notre collaboration avec NVIDIA, Supermicro NVIDIA a qualifié la nouvelle plateforme réseau NVIDIA Spectrum-X dans plusieurs de ses systèmes, permettant ainsi d'obtenir des performances réseau jusqu'à 1,6 fois supérieures pour les charges de travail d'IA, tout en améliorant l'efficacité énergétique et en réduisant le coût total de possession. Grâce à l'association du commutateur Ethernet NVIDIA Spectrum-4 et de la carte réseau NVIDIA BlueField®-3 SuperNIC, les clients peuvent désormais bénéficier de l'infrastructure de traitement cloud IA Ethernet la plus performante.

Les systèmes actuellement en cours de qualification avec la solution réseau NVIDIA Spectrum-X comprennent Supermicro GPU très populaire de SuperServers qui sont disponibles en hauteurs 4U, 5U et 8U et prennent en charge les GPU NVIDIA dans les systèmes suivants :

• Supermicro Serveurs GPU 8U avec systèmes NVIDIA HGX H100 à 8 GPU :
  • SYS-821GE-TNHR (8U) – Processeurs Intel
  • AS -8125GS-TNHR (8U) – AMD Processeurs
  • SYS-421GU-TNXR (4U) – Processeurs Intel
• Supermicro Serveurs GPU universels (4U et 5U) avec NVIDIA H100 PCIe GPU ou GPU NVIDIA L40S :
  • SYS-521GE-TNRT (5U) – Processeurs Intel
  • SYS-421GE-TNRT (4U) – Processeurs Intel
  • SYS-421GE-TNRT3 (4U) – Processeurs Intel
  • AS -4125GS-TNRT (4U) – AMD Processeur
  • AS -4125GS-TNRT2 (4U) – AMD Processeur

Ces Supermicro Les systèmes, optimisés par NVIDIA Spectrum-X, réduisent les temps d'exécution de l'entraînement et de l'inférence des modèles d'IA génératifs massifs basés sur des transformateurs, essentiels pour fournir des résultats et des informations plus rapides à partir de l'IA.

En plus d'augmenter considérablement les performances du réseau de 1,6 fois pour l'IA, Supermicro Les systèmes dotés d'une architecture réseau NVIDIA Spectrum-X bénéficient d'une isolation des performances des charges de travail dans les environnements mutualisés. Il est essentiel, pour les applications hautes performances, de permettre aux charges de travail de déplacer des données séparément et indépendamment, à l'abri des interférences susceptibles de nuire à leurs performances. De plus, l'isolation des charges de travail réseau offre un avantage supplémentaire en matière de sécurité, empêchant ainsi des acteurs malveillants d'interférer avec une autre charge de travail. NVIDIA Spectrum-X assure cette isolation renforcée grâce à des clouds privés virtuels (VPC) sécurisés, attribués à chaque locataire.

L'efficacité énergétique a toujours été un enjeu crucial pour le fonctionnement des systèmes d'IA hautes performances et à forte consommation. En offrant des performances réseau accrues à consommation énergétique égale, NVIDIA Spectrum-X contribue à un environnement d'IA plus économe en énergie. Ce meilleur rendement énergétique se traduit par une consommation globale réduite et un coût total de possession potentiellement inférieur. Pour les utilisateurs qui limitent généralement la consommation d'énergie afin de maîtriser leurs coûts, Supermicro Les systèmes dotés de Spectrum-X contribuent à garantir que les plafonds de consommation d'énergie ne sont pas dépassés.  

Les consommateurs qui utilisent un réseau Ethernet standardisé peuvent être assurés que NVIDIA Spectrum-X est entièrement conforme aux normes et totalement interopérable avec les piles réseau basées sur Ethernet. De plus, Supermicro Les serveurs équipés de NVIDIA Spectrum-X aident les clients à relever le défi majeur du déploiement de l'IA : la scalabilité. Capables de prendre en charge 256 ports 200G sur un seul commutateur ou 16 000 ports dans une topologie leaf/spine à deux niveaux, ces systèmes sont parfaitement adaptés aux organisations dont les besoins en infrastructure de calcul accéléré évoluent.

Comme Supermicro s'efforce de répondre aux besoins des clients en IA qui ont besoin non seulement d'un réseau haute performance, mais aussi d'une architecture cloud mutualisée. Supermicro Les systèmes équipés de cartes graphiques NVIDIA Spectrum-X exploitent les extensions RDMA (Remote Direct Memory Access over Converged Ethernet) pour optimiser les performances et la gestion multi-locataires. Les performances sur Ethernet traditionnel sont exceptionnelles, comme l'illustre le graphique ci-dessous.  

La technologie de réseau révolutionnaire de NVIDIA, notamment dans de nombreux Supermicro Les serveurs offrent des performances réseau exceptionnelles pour l'IA, une isolation des performances multi-locataires et une efficacité énergétique accrue. Tout cela est réalisé en s'appuyant sur les normes de réseau Ethernet grâce à l'association du commutateur Ethernet NVIDIA Spectrum-4 et de la SuperNIC NVIDIA BlueField-3. Cette combinaison permet de réduire considérablement les temps d'exécution des modèles d'IA génératifs massifs. Pour les clients qui ont besoin d'accéder plus rapidement à des informations critiques, de la mutualisation et d'une évolutivité future, ces Supermicro Les systèmes équipés de cartes graphiques NVIDIA Spectrum-X sont parfaitement adaptés à leurs besoins.