Serveurs multimédia dans le cloud et serveurs IA équipés de GPU Intel®

Solutions hautement performantes et optimisées pour le Deep Learning grâce aux accélérateurs IA Intel Gaudi

Pour l'entraînement et l'inférence IA à l'échelle du cloud

La demande en ressources de calcul haute performance pour l'entraînement en IA et en apprentissage profond (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère parallèlement à l'augmentation de la taille des ensembles de données et du nombre d'applications et de services basés sur les grands modèles linguistiques (LLM), la vision par ordinateur, les systèmes de recommandation, etc.

Face à la demande croissante en matière de performances accrues pour l'entraînement et l'inférence, de débit et de capacité, le secteur a besoin de systèmes spécialement conçus qui offrent une efficacité accrue, des coûts réduits, une mise en œuvre aisée, une flexibilité permettant la personnalisation et l'évolutivité des systèmes d'IA. L'IA est devenue une technologie essentielle dans divers domaines tels que les copilotes, les assistants virtuels, l'automatisation de la fabrication, l'exploitation de véhicules autonomes et l'imagerie médicale, pour n'en citer que quelques-uns. Supermicro associé à Intel pour proposer des systèmes à l'échelle du cloud et des solutions de rack intégrant les accélérateurs IA Intel Gaudi.

Système de formation IA Supermicro Intel® Gaudi® , modèle SYS-822GA-NGR3

Nouvelle plateforme Supermicro X14 Gaudi® dédiée à l'entraînement et à l'inférence en IA

Offrant davantage de choix sur le marché de l'IA d'entreprise, la nouvelle plateforme d'entraînementX14 Supermicro X14 s'appuie sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour améliorer encore l'efficacité de l'entraînement et de l'inférence des modèles d'IA à grande échelle. Disponible en configurations à refroidissement par air et par liquide, la solution Supermicro X14 3 s'adapte facilement pour répondre à un large éventail d'exigences en matière de charges de travail IA.

GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur une carte mère OAM 2.0
Processeur : deux processeurs Intel® Xeon®
Mémoire : 24 barrettes DIMM - jusqu'à 6 To de mémoire dans un seul DPC
Disques : jusqu’à 8 disques NVMe PCIe .0 remplaçables à chaud
Alimentations électriques : 8 alimentations de 3 000 W à haut rendement, entièrement redondantes (4+4), niveau Titanium
Réseau : 6 ports OSFP 800 GbE intégrés pour une évolutivité horizontale
Emplacements d'extension : 2 PCIe .0 x16 (FHHL) + 2 PCIe .0 x8 (FHHL)
Charges de travail : entraînement et inférence en IA

Produit phare : SYS-822GA-NGR3

Serveur de formation IA Supermicro

S'appuyant sur le succès du système d'entraînement IA Supermicro original, le serveur IA Gaudi 2 met l'accent sur deux aspects essentiels : l'intégration d'accélérateurs IA avec des modules réseau haut débit intégrés afin d'optimiser l'efficacité opérationnelle pour l'entraînement de modèles d'IA de pointe, et offrir au secteur de l'IA la diversité de choix dont il a besoin.

GPU : 8 cartes mezzanine Gaudi2 HL-225H
Processeur : deux processeurs Intel® Xeon® de 3e génération
Mémoire : 32 barrettes DIMM – jusqu'à 8 To de mémoire SDRAM DDR4-3200 MHz ECC enregistrée
Disques : jusqu'à 24 disques remplaçables à chaud (SAS)
Alimentation : 6 blocs d'alimentation de 3 000 W à haut rendement (54 V + 12 V), entièrement redondants
Réseau : 24 liaisons SerDes PAM4 à 100 GbE (48 x 56 Gb) via 6 connecteurs QSFP-DD
Emplacements d'extension : 2 commutateurs PCIe .0
Charges de travail : entraînement et inférence en IA

Produit phare : SYS-820GH-TNR2

Groupe Systèmes Intel pour l'IA en périphérie

Performances et efficacité de l'IA en périphérie – Grâce à Intel

Bénéficiez d’une IA en périphérie à la fois puissante et économe en énergie grâce aux solutions système spécialement conçues par Intel et Supermicro. La gamme de produits Supermicrocomprend un large éventail de processeurs et de cartes graphiques de pointe permettant d’obtenir des résultats d’IA hautement performants et à faible latence dans des environnements excentrés et à l’espace restreint, aidant ainsi les entreprises à faire évoluer leurs applications basées sur les données en toute confiance.

Optimisez les performances grâce aux architectures intégrées de CPU, GPU et NPU
Accélérez l'inférence IA grâce à OpenVINO
Déployer une IA fiable et économe en énergie dans des secteurs tels que le commerce de détail, la santé et l'industrie manufacturière

Ressources