Serveurs Cloud pour médias et IA avec GPU Intel®

Solutions optimisées pour l'apprentissage profond à haut rendement avec les accélérateurs Intel Gaudi AI

Pour l'entraînement et l'inférence de l'IA à l'échelle du nuage

La demande de calcul haute performance pour la formation en IA/Deep Learning (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère avec la taille croissante des ensembles de données et le nombre d'applications et de services basés sur de grands modèles de langage (LLM), la vision par ordinateur, les systèmes de recommandation, et bien plus encore.

Face à la demande accrue de performances d'entraînement et d'inférence, de débit et de capacité, l'industrie a besoin de systèmes conçus spécifiquement pour offrir une efficacité accrue, des coûts réduits, une facilité de mise en œuvre, une flexibilité permettant la personnalisation et la mise à l'échelle des systèmes d'IA. L'IA est devenue une technologie essentielle pour divers domaines tels que les copilotes, les assistants virtuels, l'automatisation de la fabrication, les opérations de véhicules autonomes et l'imagerie médicale, pour n'en nommer que quelques-uns. Supermicro s'est associé à Intel pour fournir des conceptions de systèmes et de racks à l'échelle du cloud avec les accélérateurs d'IA Intel Gaudi.

Supermicro Système d'entraînement d'IA Intel® Gaudi® 3 8U SYS-822GA-NGR3

Nouvelle plateforme Supermicro X14 Gaudi® 3 pour l'entraînement et l'inférence d'IA

Apportant un choix au marché de l'IA d'entreprise, la nouvelle plateforme de formation à l'IA Supermicro X14 est basée sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour accroître davantage l'efficacité de l'entraînement de modèles d'IA à grande échelle et de l'inférence d'IA. Disponible en configurations refroidies par air et par liquide, la solution X14 Gaudi 3 de Supermicro s'adapte facilement pour répondre à un large éventail d'exigences de charge de travail d'IA.

GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur carte de base OAM 2.0
CPU : Deux processeurs Intel® Xeon® 6
Mémoire : 24 DIMM - jusqu'à 6 To de mémoire dans 1DPC
Disques : Jusqu'à 8 disques durs PCIe 5.0 NVMe interchangeables à chaud
Alimentations : 8 blocs d'alimentation haute efficacité 3000W entièrement redondants (4+4) de niveau Titanium
Mise en réseau : 6 ports OSFP 800GbE intégrés pour l'évolutivité
Emplacements d'extension : 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
Charges de travail : Formation et inférence en IA

Produit vedette : SYS-822GA-NGR3

Serveur d'entraînement IA Supermicro Gaudi®2

S'appuyant sur le succès du système d'entraînement d'IA Supermicro Gaudi original, le serveur d'IA Gaudi 2 priorise deux considérations clés : l'intégration d'accélérateurs d'IA avec des modules de réseau haute vitesse intégrés pour améliorer l'efficacité opérationnelle de l'entraînement de modèles d'IA de pointe et offrir à l'industrie de l'IA le choix dont elle a besoin.

GPU : 8 cartes mezzanine Gaudi2 HL-225H
CPU : Deux processeurs Intel® Xeon® Scalable de 3e génération
Mémoire : 32 DIMM - jusqu'à 8 To de mémoire SDRAM ECC DDR4-3200 MHz enregistrée
Disques durs : jusqu'à 24 disques durs remplaçables à chaud (SAS)
Alimentation : 6 blocs d'alimentation 3000W à haute efficacité (54V+12V) entièrement redondants
Mise en réseau : 24x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
Emplacements d'extension : 2 commutateurs PCIe 4.0
Charges de travail : Formation et inférence en IA

Produit vedette : SYS-820GH-TNR2

Groupe Systèmes Intel pour l'IA en périphérie

Performances et efficacité de l'IA en périphérie – Optimisé par Intel

Bénéficiez d'une IA en périphérie puissante et économe en énergie grâce aux solutions système spécialement conçues par Intel et Supermicro. La gamme de produits Supermicrocomprend un large éventail de processeurs et de cartes graphiques de pointe, permettant d'obtenir des résultats d'IA hautement performants et à faible latence dans des environnements exiguës et distants, aidant ainsi les entreprises à faire évoluer leurs applications basées sur les données en toute confiance.

Optimisez les performances grâce à des architectures intégrées de CPU, GPU et NPU
Accélérez l'inférence IA avec OpenVINO
Déployer une IA fiable et économe en énergie dans des secteurs tels que le commerce de détail, la santé et l'industrie manufacturière

Ressources