Pour l'entraînement et l'inférence de l'IA à l'échelle du nuage
La demande de calcul haute performance pour la formation en IA/Deep Learning (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère avec la taille croissante des ensembles de données et le nombre d'applications et de services basés sur de grands modèles de langage (LLM), la vision par ordinateur, les systèmes de recommandation, et bien plus encore.
Face à la demande croissante de performances, de débit et de capacité d'entraînement et d'inférence, l'industrie a besoin de systèmes spécifiques offrant une efficacité accrue, un coût réduit, une facilité de mise en œuvre, une flexibilité permettant la personnalisation et la mise à l'échelle des systèmes d'IA. L'IA est devenue une technologie essentielle pour divers domaines tels que les copilotes, les assistants virtuels, l'automatisation de la fabrication, les opérations des véhicules autonomes et l'imagerie médicale, pour n'en citer que quelques-uns. Supermicro s'est associé à Intel pour fournir des systèmes à l'échelle du nuage et la conception de racks avec les accélérateurs Intel Gaudi AI Accelerators.
Nouvelle plateforme d'apprentissage et d'inférence Supermicro X14 Gaudi® 3 AI
La nouvelle plateforme d'apprentissage de l'IA Supermicro X14, qui apporte du choix sur le marché de l'IA d'entreprise, est construite sur la troisième génération d'accélérateurs Intel® Gaudi 3, conçus pour accroître encore l'efficacité de l'apprentissage de modèles d'IA à grande échelle et de l'inférence de l'IA. Disponible dans des configurations refroidies par air ou par liquide, la solution X14 Gaudi 3 de Supermicro évolue facilement pour répondre à un large éventail d'exigences en matière de charge de travail d'IA.
- GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur carte de base OAM 2.0
- CPU : Deux processeurs Intel® Xeon® 6
- Mémoire : 24 DIMM - jusqu'à 6 To de mémoire dans 1DPC
- Disques : Jusqu'à 8 disques durs PCIe 5.0 NVMe interchangeables à chaud
- Alimentations : 8 blocs d'alimentation haute efficacité 3000W entièrement redondants (4+4) de niveau Titanium
- Mise en réseau : 6 ports OSFP 800GbE intégrés pour l'évolutivité
- Emplacements d'extension : 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Charges de travail : Formation et inférence en IA
Serveur de formation à l'IA Supermicro Gaudi®2
S'appuyant sur le succès du système d'entraînement à l'IA Supermicro Gaudi original, le serveur Gaudi 2 AI donne la priorité à deux considérations clés : l'intégration d'accélérateurs d'IA avec des modules de mise en réseau à grande vitesse intégrés pour améliorer l'efficacité des opérations d'entraînement de modèles d'IA de pointe et apporter à l'industrie de l'IA le choix dont elle a besoin.
- GPU : 8 cartes mezzanine Gaudi2 HL-225H
- CPU : Deux processeurs Intel® Xeon® Scalable de 3e génération
- Mémoire : 32 DIMM - jusqu'à 8 To de mémoire SDRAM ECC DDR4-3200 MHz enregistrée
- Disques : jusqu'à 24 disques hot swap (SATA/NVMe/SAS)
- Alimentation : 6 blocs d'alimentation 3000W à haute efficacité (54V+12V) entièrement redondants
- Mise en réseau : 24x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- Emplacements d'extension : 2 commutateurs PCIe 4.0
- Charges de travail : Formation et inférence en IA
Le serveur Supermicro équipé de l'Intel® Gaudi® 3 est optimisé pour les scénarios d'IA dans le monde réel
Les nouveaux serveurs Supermicro équipés de processeurs Intel® Xeon® de la série 6 avec P-Cores et d'accélérateurs Intel Gaudi 3 affichent des gains de performance par rapport aux générations précédentes.
Supermicro X14 Intel® Gaudi® AI Accelerator Cluster Reference Design
Accélérer et réduire le coût des solutions d'intelligence artificielle avec le système X14 de Supermicro basé sur l'accélérateur Intel® Gaudi® 3 en s'appuyant sur des logiciels open-source et un réseau Ethernet standard de l'industrie
Supermicro et GAUDI 3 AI offrent des performances évolutives pour les besoins de l'IA
Gamme de solutions optimisées pour les centres de données de toute taille et de toute charge de travail Pour de nouveaux services et une plus grande satisfaction des clients
Les systèmes GAUDI 3 de Supermicro et Intel font progresser l'infrastructure d'IA des entreprises
Système d'IA à large bande passante utilisant des processeurs Intel Xeon 6 pour une formation et une inférence LLM et GenAI efficaces à l'échelle de l'entreprise
Supermicro X13 Hyper renforce les charges de travail d'IA d'entreprise sur la plateforme VMWARE
Cas d'utilisation de la charge de travail de l'IA computationnelle : Large Language Model (LLM) et reconnaissance d'images par l'IA - ResNet50 sur Intel® Data Center Flex 170 GPU
Accélérer le calcul de l'IA avec les serveurs Supermicro dans l'INTEL® Developer Cloud
Les serveurs Supermicro Advanced AI, équipés de processeurs Intel® Xeon® et d'accélérateurs Intel® Gaudi® 2 AI, permettent aux développeurs et aux entreprises de bénéficier d'un calcul en nuage, d'une formation et d'une inférence à haute performance et à haut rendement.
Solution supérieure de traitement et de diffusion des médias basée sur des serveurs Supermicro dotés de la série Intel® Data Center GPU Flex
Systèmes Supermicro avec Intel® Data Center GPU Flex Series
Supermicro TECHTalk : Nouvelles solutions de traitement des médias basées sur la série Intel Data Center GPU Flex
Regardez nos experts produits discuter des nouvelles solutions Supermicro basées sur la série Intel Data Center GPU Flex qui vient d'être annoncée. Découvrez comment ces solutions peuvent vous être utiles, à vous et à votre entreprise.
Des jeux en nuage évolutifs
Systèmes Supermicro avec Intel® Data Center GPU Flex Series
Supermicro propose tous les composants système permettant aux fournisseurs de services en nuage de mettre en place une infrastructure de jeu en nuage écologique, rentable et profitable.
Solutions innovantes pour les jeux en nuage, les médias, le transcodage et l'inférence AI
Sep 08 2022, 10:00am PDT
Les experts en produits et solutions de Supermicro et d'Intel discuteront, lors d'une session informelle, des avantages des solutions dans les domaines du Cloud Gaming, du Media Delivery, du Transcoding et de l'AI Inferencing en utilisant les GPU Intel Flex Series récemment annoncés. Le webinaire expliquera les avantages des solutions Supermicro , les serveurs idéaux et les avantages de l'utilisation des GPU Intel Flex Series.
Supermicro et Habana® Système d'entrainement IA à haute performance et à haut efficacité
Un rapport prix/performance pour la formation au Deep Learning jusqu'à 40 % plus avantageux que celui des solutions d'IA traditionnelles.