Pour l'entraînement et l'inférence de l'IA à l'échelle du nuage
La demande de calcul haute performance pour la formation en IA/Deep Learning (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère avec la taille croissante des ensembles de données et le nombre d'applications et de services basés sur de grands modèles de langage (LLM), la vision par ordinateur, les systèmes de recommandation, et bien plus encore.
Avec la demande croissante en matière de performances de formation et d'inférence, de débit et de capacité, l'industrie a besoin de systèmes spécialement conçus qui offrent une efficacité accrue, des coûts réduits, une mise en œuvre facile, une flexibilité permettant la personnalisation et la mise à l'échelle des systèmes d'IA. L'IA est devenue une technologie essentielle dans divers domaines tels que les copilotes, les assistants virtuels, l'automatisation de la fabrication, les opérations de véhicules autonomes et l'imagerie médicale, pour n'en citer que quelques-uns. Supermicro associé à Intel pour fournir un système à l'échelle du cloud et une conception de rack avec les accélérateurs IA Intel Gaudi.
Nouvelle plateforme d'entraînement et d'inférence IA Supermicro Gaudi® 3
Offrant un choix supplémentaire au marché de l'IA d'entreprise, la nouvelle plateforme de formation Supermicro AI s'appuie sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour accroître encore l'efficacité de la formation et de l'inférence des modèles d'IA à grande échelle. Disponible en configurations à refroidissement par air et par liquide, la solution X14 Gaudi 3 Supermicro s'adapte facilement pour répondre à un large éventail d'exigences en matière de charge de travail IA.
- GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur carte de base OAM 2.0
- CPU : Deux processeurs Intel® Xeon® 6
- Mémoire : 24 DIMM - jusqu'à 6 To de mémoire dans 1DPC
- Disques : Jusqu'à 8 disques durs PCIe 5.0 NVMe interchangeables à chaud
- Alimentations : 8 blocs d'alimentation haute efficacité 3000W entièrement redondants (4+4) de niveau Titanium
- Mise en réseau : 6 ports OSFP 800GbE intégrés pour l'évolutivité
- Emplacements d'extension : 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Charges de travail : Formation et inférence en IA
Serveur d'entraînement IA Supermicro
S'appuyant sur le succès du système de formation Supermicro AI original, le serveur Gaudi 2 AI donne la priorité à deux considérations clés : l'intégration d'accélérateurs IA avec des modules réseau haute vitesse intégrés afin d'optimiser l'efficacité opérationnelle pour la formation de modèles IA de pointe, et offrir à l'industrie IA le choix dont elle a besoin.
- GPU : 8 cartes mezzanine Gaudi2 HL-225H
- CPU : Deux processeurs Intel® Xeon® Scalable de 3e génération
- Mémoire : 32 DIMM - jusqu'à 8 To de mémoire SDRAM ECC DDR4-3200 MHz enregistrée
- Disques : jusqu'à 24 disques hot swap (SATA/NVMe/SAS)
- Alimentation : 6 blocs d'alimentation 3000W à haute efficacité (54V+12V) entièrement redondants
- Mise en réseau : 24x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- Emplacements d'extension : 2 commutateurs PCIe 4.0
- Charges de travail : Formation et inférence en IA
Supermicro équipé du processeur Intel® Gaudi® 3 est optimisé pour les scénarios d'IA réels.
Supermicro nouveaux Supermicro équipés de processeurs Intel® Xeon® série 6 avec cœurs P et accélérateurs Intel Gaudi 3 affichent des gains de performances par rapport aux générations précédentes.
Conception de référence du cluster d'accélérateurs IA Intel® Gaudi® Supermicro
Accélérer et réduire le coût des solutions d'IA grâce au système Supermicro X14 Intel® Gaudi® 3 Accelerator, en s'appuyant sur des logiciels open source et la norme Ethernet industrielle.
Supermicro GAUDI 3 AI offre des performances évolutives pour les besoins en matière d'IA
Gamme de solutions optimisées pour les centres de données de toute taille et de toute charge de travail Pour de nouveaux services et une plus grande satisfaction des clients
Les systèmes Supermicro Intel GAUDI 3 font progresser l'infrastructure IA des entreprises
Système d'IA à large bande passante utilisant des processeurs Intel Xeon 6 pour une formation et une inférence LLM et GenAI efficaces à l'échelle de l'entreprise
Supermicro Hyper les charges de travail IA des entreprises sur la plateforme VMWARE
Cas d'utilisation de la charge de travail de l'IA computationnelle : Large Language Model (LLM) et reconnaissance d'images par l'IA - ResNet50 sur Intel® Data Center Flex 170 GPU
Accélérer le calcul IA avec Supermicro dans le cloud INTEL® Developer Cloud
Les serveurs IA Supermicro équipés de processeurs Intel® Xeon® et d'accélérateurs IA Intel® Gaudi® 2 offrent aux développeurs et aux entreprises des capacités de calcul, de formation et d'inférence IA dans le cloud hautement performantes et efficaces.
Solution supérieure de traitement et de diffusion multimédia basée sur Supermicro équipés de processeurs graphiques Intel® Data Center GPU Flex Series
Supermicro avec Intel® Data Center GPU Flex Series
Supermicro : nouvelles solutions de traitement multimédia basées sur la série Intel Data Center GPU Flex
Regardez nos experts produits discuter des nouvelles Supermicro basées sur la série Intel Data Center GPU Flex qui vient d'être annoncée. Découvrez comment ces solutions peuvent vous être utiles, à vous et à votre entreprise.
Des jeux en nuage évolutifs
Supermicro avec Intel® Data Center GPU Flex Series
Supermicro tous les composants système nécessaires aux fournisseurs de services cloud pour mettre en place une infrastructure de jeux cloud écologique, rentable et lucrative.
Solutions innovantes pour les jeux en nuage, les médias, le transcodage et l'inférence AI
Sep 08 2022, 10:00am PDT
Les experts en produits et solutions Supermicro Intel discuteront, lors d'une session informelle, des avantages des solutions dans les domaines du cloud gaming, de la diffusion multimédia, du transcodage et de l'inférence IA à l'aide des GPU Intel Flex Series récemment annoncés. Le webinaire expliquera les avantages des Supermicro , les serveurs idéaux et les avantages de l'utilisation des GPU Intel Flex Series.
Supermicro et Habana® Système d'entrainement IA à haute performance et à haut efficacité
Un rapport prix/performance pour la formation au Deep Learning jusqu'à 40 % plus avantageux que celui des solutions d'IA traditionnelles.