DDN Supermicro: une infrastructure éprouvée pour l'inférence et l'analyse en IA

DDN est une plateforme d'intelligence des données unifiée de nouvelle génération, définie par logiciel, conçue pour répondre aux exigences de l'inférence IA, de l'analyse avancée, de la préparation des modèles et du chargement de données à haut débit. Validée sur le serveur Supermicro A+ 1U, Infinia offre une latence inférieure à la milliseconde et un débit de plusieurs téraoctets par seconde pour les charges de travail critiques, y compris les pipelines d'inférence compatibles RAG.

Ensemble, DDN Supermicro leurs preuves en matière de déploiement à très grande échelle et à un rythme effréné, notamment avec la mise en place, en seulement 122 jours, de l’un des plus grands centres de données d’IA au monde en collaboration avec xAI. De la recherche pour la mission martienne de la NASA à l’IA appliquée à l’automobile chez Hyundai, DDN accompagnent les organisations pour lesquelles la rapidité, la fiabilité et l’évolutivité se traduisent directement par un avantage concurrentiel.

Supermicro de DDN Supermicro

Haute performance, retour sur investissement maximal

Les serveurs Supermicro permettent à DDN d'offrir des performances d'inférence exceptionnelles tout en réduisant considérablement les coûts d'exploitation, avec une diminution pouvant atteindre 75 % des besoins en énergie, en refroidissement et en espace. Des clients tels que le CINECA, le plus grand centre de supercalcul d'Europe, atteignent des performances record tout en réduisant considérablement TCO.

Optimisé pour les charges de travail accélérées par le GPU

DDN est spécialement conçu pour les pipelines d'IA à forte intensité de calcul GPU et s'intègre parfaitement aux systèmes GPU HGX et NVL72 Supermicroéquipés de cartes NVIDIA. Qu'il s'agisse d'entraîner de grands modèles linguistiques, d'effectuer des inférences à haute fréquence ou d'exécuter des analyses de données avancées, les clients – des banques internationales aux laboratoires de recherche nationaux – s'appuient sur cette combinaison pour obtenir des informations plus rapidement et rester à la pointe de l'innovation en matière d'IA.

Intégration et fiabilité de bout en bout

DDN Supermicro une solution d'entreprise entièrement intégrée, facile à déployer et à optimiser tout au long du cycle de vie des données d'IA. Grâce à une validation technique conjointe, à un réglage complet de la pile technologique et à une fiabilité à toute épreuve, ce partenariat garantit que les charges de travail liées à l'IA, à l'analyse de données et au calcul haute performance (HPC) fonctionnent avec une efficacité maximale — une efficacité qui a fait ses preuves dans les environnements de production d'entreprises du classement Fortune 500 et d'instituts de recherche de renommée mondiale.
HyperPOD IA DDN avec Supermicro

La solution clé en main pour l'inférence d'entreprise et le RAG – opérationnelle dès le premier jour – optimisée par le logiciel DDN , déployée sur Supermicro et accélérée par NVIDIA. Disponibles en configurations extra-petite, petite, moyenne et grande, les systèmes DDN AI HyperPOD préconfigurés commencent à 4 GPU avec 0,5 Po et peuvent évoluer jusqu'à 256 GPU avec plus de 12 Po, le tout dans un seul rack sur une architecture unique.

L'HyperPOD DDN AI, équipé de Supermicro , évolue de manière linéaire sans nécessiter de modifications du code. Les pipelines DDN permettent un transfert fluide des ensembles de données vers le cloud, ce qui facilite l'ajout de capacité sans modifier les flux de travail.

Avantages de la solution

Des applications 10 fois plus rapides

Les pipelines intelligents de métadonnées réduisent le mouvement des données et permettent d'utiliser les GPU jusqu'à 99 %.

Plus d'IA par dollar

Meilleure utilisation des GPU, économies d'énergie et de refroidissement, et empreinte dense allant jusqu'à 12 PB par rack.

La confiance à l'échelle

Multi-tenance native, cryptage et protection des domaines de défaillance - conçu pour une disponibilité de cinq à neuf heures.

Composants clés de la solution

Plateforme d'intelligence des données DDN

Stockage d'objets performants et intelligents en termes de métadonnées qui maintient la saturation des GPU et fonde le RAG sur des données d'entreprise fiables. Accès en dessous de la milliseconde pour l'inférence, le RAG, la préparation des données et le chargement des modèles.

DDN AI HyperPOD

Prêt pour la production d'inférences et de RAG, il fournit rapidement des points d'extrémité de modèles sécurisés et performants. Défini par logiciel, compatible avec l'informatique en nuage et évolutif de TBs à 12+ PB par rack avec multi-tenancy et gouvernance natives.

Systèmes Supermicro Haute Densité

Les serveurs GPU Supermicro optimisés pour les applications, dotés d'une alimentation et d'un refroidissement efficaces et d'une pré-intégration en usine, garantissent des performances constantes dès le premier jour, offrant ainsi plus d'IA par rack et des opérations prévisibles.

Serveur Hyper A+

flash 1U à chargement frontal, à processeur unique etflash , pouvant accueillir jusqu'à 12 NVMe et PCIe .0

Caractéristiques principales :

  • Processeurs AMD EPYC™ sériesEPYC™ à un seul socket. TDP pouvant atteindre 400 W.
  • Prend en charge 24 modules DIMM avec la technologie 2DPC, pour une capacité mémoire maximale de 6 To avec 24 modules DIMM de 256 Go de type 3DS RDIMM/RDIMM DDR5
  • 3 emplacements PCIe .0 x16 et 1 AIOM (conforme à la norme OCP 3.0 SFF)
  • 8 baies NVMe U.2 remplaçables à chaud + 4 NVMe U.2 remplaçables à chaud en option avec des pièces supplémentaires
  • Alimentations redondantes Titanium 1200W
AS -1115HS-TNR

AS -1115HS-TNR

En savoir plus
Ressources à la une