DDN Supermicro: une infrastructure éprouvée pour l'inférence et l'analyse en IA

DDN est une plateforme d'intelligence des données unifiée de nouvelle génération, définie par logiciel, conçue pour répondre aux exigences de l'inférence IA, de l'analyse avancée, de la préparation des modèles et du chargement de données à haut débit. Validée sur le serveur Supermicro A+ 1U, Infinia offre une latence inférieure à la milliseconde et un débit de plusieurs téraoctets par seconde pour les charges de travail critiques, y compris les pipelines d'inférence compatibles RAG.

Ensemble, DDN Supermicro leurs preuves en matière de déploiement à très grande échelle et à un rythme effréné, notamment avec la mise en place, en seulement 122 jours, de l’un des plus grands centres de données dédiés à l’IA au monde, en collaboration avec xAI. De la recherche pour la mission martienne de la NASA à l’IA appliquée à l’automobile chez Hyundai, DDN accompagnent les organisations pour lesquelles la rapidité, la fiabilité et l’évolutivité se traduisent directement par un avantage concurrentiel.

Supermicro de DDN Supermicro

Haute performance, retour sur investissement maximal

Les serveurs Supermicro permettent à DDN d'offrir des performances d'inférence exceptionnelles tout en réduisant considérablement les coûts d'exploitation, avec une diminution pouvant atteindre 75 % des besoins en énergie, en refroidissement et en espace. Des clients tels que le CINECA, le plus grand centre de supercalcul d'Europe, atteignent des performances record tout en réduisant considérablement TCO).

Optimisé pour les charges de travail accélérées par GPU

DDN est spécialement conçu pour les pipelines d’IA faisant un usage intensif des GPU et s’intègre de manière transparente aux systèmes GPU HGX et NVL72 Supermicro, basés sur la technologie NVIDIA. Qu’il s’agisse d’entraîner de grands modèles linguistiques, d’effectuer des inférences à haute fréquence ou d’exécuter des analyses de données avancées, les clients – des banques internationales aux laboratoires de recherche nationaux – s’appuient sur cette combinaison pour obtenir plus rapidement des informations exploitables et rester à la pointe de l’innovation en matière d’IA.

Intégration de bout en bout et fiabilité

DDN Supermicro une solution entièrement intégrée et de niveau entreprise, facile à déployer et à optimiser tout au long du cycle de vie des données d'IA. Grâce à une validation technique conjointe, à un réglage complet de la pile technologique et à une fiabilité à toute épreuve, ce partenariat garantit que les charges de travail liées à l'IA, à l'analyse de données et au calcul haute performance (HPC) s'exécutent avec une efficacité maximale — comme l'ont démontré des environnements de production au sein d'entreprises du classement Fortune 500 et d'instituts de recherche de renommée mondiale.
HyperPOD DDN AI avec Supermicro

La solution clé en main pour l'inférence d'entreprise et le RAG – opérationnelle dès le premier jour – optimisée par le logiciel DDN , déployée sur Supermicro et accélérée par NVIDIA. Disponibles en configurations extra-petite, petite, moyenne et grande, les systèmes DDN AI HyperPOD préconfigurés commencent à 4 GPU avec 0,5 PB et peuvent évoluer jusqu'à 256 GPU avec plus de 12 PB, le tout dans un seul rack sur une architecture unique.

Le DDN AI HyperPOD, équipé de Supermicro , évolue de manière linéaire sans nécessiter de modifications du code. Les pipelines DDN permettent un transfert fluide des ensembles de données vers le cloud, ce qui facilite l'ajout de capacité sans modifier les flux de travail.

Avantages de la solution

Des applications 10 fois plus rapides

Les pipelines optimisés pour les métadonnées réduisent les transferts de données et maintiennent un taux d'utilisation des GPU pouvant atteindre 99 %.

Plus d'IA par dollar

Une utilisation accrue du GPU, des économies d'énergie et de refroidissement, ainsi qu'une densité pouvant atteindre 12 Po par rack.

La confiance à grande échelle

Multitenance native, chiffrement et protection contre les domaines de défaillance – conçus pour garantir une disponibilité de cinq 9.

Principaux éléments de la solution

Plateforme d'intelligence des données DDN

Une solution de stockage d'objets haute performance et optimisée pour les métadonnées, qui maintient les GPU à pleine capacité et ancrent le RAG dans des données d'entreprise fiables. Accès en moins d'une milliseconde pour l'inférence, le RAG, la préparation des données et le chargement des modèles.

DDN AI HyperPOD

Prêt à l'emploi pour l'inférence et le RAG, il fournit rapidement des points de terminaison de modèles sécurisés et hautement performants. Définie par logiciel, compatible avec le cloud et évolutive de quelques To à plus de 12 Po par rack, avec une multi-location et une gouvernance natives.

Systèmes Supermicro

Serveurs Supermicro optimisés pour les applications, dotés d'une alimentation et d'un refroidissement efficaces, et pré-intégrés en usine pour garantir des performances constantes dès le premier jour : plus de capacités d'IA par rack, des opérations prévisibles.

Serveur Hyper A+

Serveur « all-flash » 1U à chargement frontal, à processeur unique, pouvant accueillir jusqu’à 12 NVMe et doté d’une interface PCIe .0

Caractéristiques principales :

  • Processeurs AMD EPYC™ sériesEPYC™ à un seul socket SP5. TDP pouvant atteindre 400 W.
  • Prend en charge 24 modules DIMM avec la technologie 2DPC, pour une capacité mémoire pouvant atteindre 6 To avec 24 modules DIMM de 256 Go de type 3DS RDIMM/RDIMM DDR5
  • 3 emplacements PCIe .0 x16 et 1 AIOM (conforme à la norme OCP 3.0 SFF)
  • 8 baies NVMe U.2 remplaçables à chaud + 4 NVMe U.2 remplaçables à chaud en option avec des pièces supplémentaires
  • Alimentations redondantes Titanium de 1 200 W
AS -1115HS-TNR

AS -1115HS-TNR

En savoir plus
Ressources à la une