Bibliothèque de ressources

Les extensions Intel® Advanced Matrix (Intel® AMX) améliorent l'inférence vLLM grâce à la co-distribution CPU-GPU : une architecture multi-agents tirant parti de Supermicro Système HGX B200

This IBM Redbook presents a validated reference architecture for an AI infrastructure that allows KV cache to be persistently stored, shared, and reused across requests, sessions, and GPU nodes. It consists of NVIDIA Dynamo for intelligent distributed KV cache management, IBM® Storage Scale Erasure Coding Edition (ECE) as the high-performance shared storage tier, Supermicro Petascale servers as the storage and networking foundation, and NVIDIA Spectrum-X Ethernet to tie it all together with the low-latency, high-bandwidth fabric that production AI inference demands.

Cette note de synthèse décrit les avancées en matière de performances et la valeur commerciale de la suite d'accélération myrtle.ai VOLLO™ exécutée sur un système Supermicro Le serveur AS-2015CS-TNR, tel que présenté dans le rapport de référence STAC ML récemment publié.

Supermicro Les solutions d'IA intégrant des processeurs Arm AGI sont conçues pour l'ère de l'orchestration d'IA à grande échelle, offrant des performances, une efficacité et une densité qui optimisent la rentabilité des déploiements à l'échelle du rack. 

La prolifération rapide des agents d'IA engendre un besoin en systèmes écoénergétiques capables de fournir les résultats escomptés dans les délais impartis. Si l'entraînement des IA a dominé les débats récents, la demande croissante en matière d'inférence et de charges de travail agentielles exige des systèmes optimisés énergétiquement et fonctionnant dans des environnements variés. L'essor de l'IA agentielle nécessitera des processeurs capables d'orchestrer et de gérer des agents fonctionnant en continu. Ce tournant décisif exigera un nombre considérablement plus élevé de processeurs, à une densité à l'échelle du rack, tout en maintenant la consommation énergétique dans les limites des centres de données d'entreprise actuels.

Performances de la NVIDIA GB300. Supermicro L'ingéniosité. Du bureau au centre de données.

Un nouveau système est conçu pour les racks OCP ORv3 afin d'améliorer la compatibilité avec les centres de données.

Supermicro X14 Les serveurs offrent aux utilisateurs la flexibilité d'adapter les systèmes et les processeurs aux charges de travail.

Présentation Supermicro 's X14 Génération prenant en charge Intel® Xeon® Processeurs 6/6+ – la dernière génération de plateformes éprouvées conçues pour des performances, une efficacité et une flexibilité maximales pour les charges de travail IA, Cloud, Stockage et 5G/Edge.

Haute performance, densité et efficacité grâce à une architecture économe en ressources – Supermicro Les plateformes SuperBlade® et MicroBlade® sont conçues pour répondre à la demande croissante de performances accrues par rack, avec une densité et une efficacité inégalées. Ces systèmes multi-nœuds optimisent la capacité de calcul tout en minimisant la consommation d'énergie, les besoins en câblage et les coûts d'exploitation.

Verda et Supermicro Le déploiement de [nom de l'entreprise] en Europe repose sur les dernières technologies NVIDIA et est alimenté à 100 % par des énergies renouvelables.