Serveurs multimédias et d'IA dans le cloud avec GPU Intel®

Solutions hautement performantes et optimisées pour le Deep Learning grâce aux accélérateurs IA Intel Gaudi

Pour l'entraînement et l'inférence IA à l'échelle du cloud

La demande en ressources de calcul haute performance pour l'entraînement en IA et en apprentissage profond (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère parallèlement à l'augmentation de la taille des ensembles de données et du nombre d'applications et de services basés sur les grands modèles linguistiques (LLM), la vision par ordinateur, les systèmes de recommandation, etc.

Face à la demande croissante de performances accrues en matière d'entraînement et d'inférence, de débit et de capacité, l'industrie a besoin de systèmes dédiés offrant une efficacité accrue, un coût réduit, une mise en œuvre simplifiée, une flexibilité permettant la personnalisation et l'évolutivité des systèmes d'IA. L'IA est devenue une technologie essentielle dans des domaines aussi variés que les copilotes, les assistants virtuels, l'automatisation de la production, la conduite autonome et l'imagerie médicale, pour n'en citer que quelques-uns. Supermicro s'est associé à Intel pour fournir des systèmes à l'échelle du cloud et des conceptions de racks avec les accélérateurs d'IA Intel Gaudi.

Supermicro 8U Intel® Gaudi® 3 Système d'entraînement IA SYS-822GA-NGR3

Nouveau Supermicro X14 Gaudi® 3 Plateforme d'entraînement et d'inférence en IA

Offrant un choix plus large sur le marché de l'IA d'entreprise, le nouveau Supermicro X14 La plateforme d'entraînement d'IA est basée sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour accroître encore l'efficacité de l'entraînement et de l'inférence de modèles d'IA à grande échelle. Disponible en versions à refroidissement par air et à refroidissement liquide. Supermicro 's X14 La solution Gaudi 3 s'adapte facilement pour répondre à un large éventail d' exigences en matière de charge de travail d'IA .

GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur une carte mère OAM 2.0
Processeur : deux processeurs Intel® Xeon®
Mémoire : 24 barrettes DIMM - jusqu'à 6 To de mémoire dans un seul DPC
Disques : jusqu’à 8 disques NVMe PCIe .0 remplaçables à chaud
Alimentations électriques : 8 alimentations de 3 000 W à haut rendement, entièrement redondantes (4+4), niveau Titanium
Networking : 6 ports OSFP 800GbE intégrés pour une extension horizontale
Emplacements d'extension : 2 PCIe .0 x16 (FHHL) + 2 PCIe .0 x8 (FHHL)
Charges de travail : entraînement et inférence en IA

Produit phare : SYS-822GA-NGR3

Supermicro Serveur d'entraînement IA Gaudi®2

S'appuyant sur le succès de l'original Supermicro Le système de formation d'IA Gaudi, le serveur d'IA Gaudi 2, privilégie deux considérations clés : l'intégration d'accélérateurs d'IA avec des modules de réseau haut débit intégrés pour optimiser l'efficacité opérationnelle de la formation de modèles d'IA de pointe et offrir à l'industrie de l'IA le choix dont elle a besoin .

GPU : 8 cartes mezzanine Gaudi2 HL-225H
Processeur : deux processeurs Intel® Xeon® de 3e génération
Mémoire : 32 barrettes DIMM – jusqu'à 8 To de mémoire SDRAM DDR4-3200 MHz ECC enregistrée
Disques : jusqu'à 24 disques remplaçables à chaud (SAS)
Alimentation : 6 blocs d'alimentation de 3 000 W à haut rendement (54 V + 12 V), entièrement redondants
Networking : 24 liaisons SerDes 100 GbE (48 liaisons 56 Gb) PAM4 via 6 modules QSFP-DD
Emplacements d'extension : 2 commutateurs PCIe .0
Charges de travail : entraînement et inférence en IA

Produit phare : SYS-820GH-TNR2

Groupe Systèmes Intel pour l'IA en périphérie

Performances et efficacité de l'IA en périphérie – Grâce à Intel

Bénéficiez d’une IA en périphérie à la fois puissante et économe en énergie grâce aux solutions système spécialement conçues par Intel et Supermicro. La gamme de produits Supermicrocomprend un large éventail de processeurs et de cartes graphiques de pointe permettant d’obtenir des résultats d’IA hautement performants et à faible latence dans des environnements excentrés et à l’espace restreint, aidant ainsi les entreprises à faire évoluer leurs applications basées sur les données en toute confiance.

Optimisez les performances grâce aux architectures intégrées de CPU, GPU et NPU
Accélérez l'inférence IA grâce à OpenVINO
Déployer une IA fiable et économe en énergie dans des secteurs tels que le commerce de détail, la santé et l'industrie manufacturière

Ressources