Serveurs multimédias et d'IA dans le cloud avec GPU Intel®

Solutions hautes performances optimisées pour l'apprentissage profond avec les accélérateurs d'IA Intel Gaudi

Pour l'entraînement et l'inférence de l'IA à l'échelle du cloud

La demande de puissance de calcul pour l'entraînement de l'IA/Deep Learning (DL) à haute performance a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère avec la taille croissante des ensembles de données et le nombre d'applications et de services basés sur de grands modèles de langage (LLM), la vision par ordinateur, les systèmes de recommandation, etc.

Face à la demande croissante de performances accrues en matière d'entraînement et d'inférence, de débit et de capacité, l'industrie a besoin de systèmes dédiés offrant une efficacité accrue, un coût réduit, une mise en œuvre simplifiée, une flexibilité permettant la personnalisation et l'évolutivité des systèmes d'IA. L'IA est devenue une technologie essentielle dans des domaines aussi variés que les copilotes, les assistants virtuels, l'automatisation de la production, les véhicules autonomes et l'imagerie médicale, pour n'en citer que quelques-uns. Supermicro s'est associé à Intel pour fournir des systèmes à l'échelle du cloud et des conceptions de racks avec les accélérateurs d'IA Intel Gaudi.

Supermicro 8U Intel® Gaudi® 3 Système d'entraînement IA SYS-822GA-NGR3

Nouveau Supermicro X14 Gaudi® 3 Plateforme d'entraînement et d'inférence en IA

Offrant un choix plus large sur le marché de l'IA d'entreprise, le nouveau Supermicro X14 La plateforme d'entraînement d'IA est basée sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour accroître encore l'efficacité de l'entraînement et de l'inférence de modèles d'IA à grande échelle. Disponible en versions à refroidissement par air et à refroidissement liquide. Supermicro 's X14 La solution Gaudi 3 s'adapte facilement pour répondre à un large éventail d' exigences en matière de charge de travail d'IA .

GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidissement par air) ou HL-335 (refroidissement liquide) sur carte mère OAM 2.0
Processeur : Double Intel® Xeon® 6 processeurs
Mémoire : 24 emplacements DIMM – jusqu'à 6 To de mémoire dans 1 DPC
Disques : Jusqu'à 8 disques remplaçables à chaud PCIe 5.0 NVMe
Alimentations : 8 alimentations de 3 000 W à haut rendement, entièrement redondantes (4+4), niveau Titane
Réseau : 6 ports OSFP 800 GbE intégrés pour une extension horizontale
Emplacements d'extension : 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
Charges de travail : Entraînement et inférence en IA

Produit vedette : SYS-822GA-NGR3

Supermicro Serveur d'entraînement IA Gaudi®2

S'appuyant sur le succès de l'original Supermicro Le système de formation d'IA Gaudi, le serveur d'IA Gaudi 2, privilégie deux considérations clés : l'intégration d'accélérateurs d'IA avec des modules de réseau haut débit intégrés pour optimiser l'efficacité opérationnelle de la formation de modèles d'IA de pointe et offrir à l'industrie de l'IA le choix dont elle a besoin .

GPU : 8 cartes mezzanine Gaudi2 HL-225H
Processeur : Double processeur Intel® de 3e génération Xeon® Processeurs évolutifs
Mémoire : 32 emplacements DIMM – jusqu’à 8 To de mémoire SDRAM ECC DDR4-3200 MHz enregistrée
Disques : jusqu'à 24 disques remplaçables à chaud ( SATA / NVMe / SAS )
Puissance : 6 alimentations redondantes haute efficacité (54 V + 12 V) de 3 000 W
Réseau : 24 liaisons SerDes 100 GbE (48 liaisons 56 Gb) PAM4 via 6 modules QSFP-DD
Emplacements d'extension : 2x PCIe commutateurs 4.0
Charges de travail : Entraînement et inférence en IA

Produit vedette : SYS-820GH-TNR2

Performances et efficacité de l'IA en périphérie – Optimisées par Intel

Débloquez une IA de périphérie puissante et écoénergétique grâce aux solutions système dédiées d'Intel et Supermicro . Supermicro Le portefeuille de [Nom de l'entreprise] comprend une large gamme de processeurs et de processeurs graphiques avancés pour fournir des résultats d'IA haute performance et à faible latence dans des environnements à espace restreint et distants, aidant ainsi les entreprises à faire évoluer en toute confiance leurs applications basées sur les données.

Optimisez les performances grâce aux architectures intégrées CPU, GPU et NPU.
Accélérez l'inférence IA avec OpenVINO
Déployer une IA fiable et écoénergétique dans des secteurs comme le commerce de détail, la santé et l'industrie manufacturière

Ressources