L'évolutivité des LLM d'entreprise et les performances des vLLM sur les systèmes à 4 sockets permettent d'atteindre un débit plus élevé, une plus grande capacité de concurrence des utilisateurs et des modèles plus volumineux que ce que permettent les architectures à 2 sockets.
La prolifération rapide des agents d’IA engendre un besoin en systèmes économes en énergie, capables de fournir les résultats requis dans les délais prévus. Alors que l’entraînement de l’IA a dominé les débats récents, la demande croissante en matière d’inférence et de charges de travail liées aux agents nécessite des systèmes optimisés sur le plan énergétique, capables de fonctionner dans des environnements variés. L'essor de l'IA agentique nécessitera des processeurs capables d'orchestrer et de gérer des agents fonctionnant en continu. Ce tournant exigera un nombre nettement plus important de processeurs à une densité de niveau rack, tout en maintenant la consommation d'énergie dans les limites des enveloppes énergétiques des centres de données d'entreprise actuels.
Ce nouveau système est conçu pour les baies OCP ORv3 afin d'améliorer la compatibilité avec les centres de données
L'évolutivité des LLM d'entreprise et les performances des vLLM sur les systèmes à 4 sockets permettent d'atteindre un débit plus élevé, une plus grande capacité de concurrence des utilisateurs et des modèles plus volumineux que ce que permettent les architectures à 2 sockets.
La prolifération rapide des agents d’IA engendre un besoin en systèmes économes en énergie, capables de fournir les résultats requis dans les délais prévus. Alors que l’entraînement de l’IA a dominé les débats récents, la demande croissante en matière d’inférence et de charges de travail liées aux agents nécessite des systèmes optimisés sur le plan énergétique, capables de fonctionner dans des environnements variés. L'essor de l'IA agentique nécessitera des processeurs capables d'orchestrer et de gérer des agents fonctionnant en continu. Ce tournant exigera un nombre nettement plus important de processeurs à une densité de niveau rack, tout en maintenant la consommation d'énergie dans les limites des enveloppes énergétiques des centres de données d'entreprise actuels.
Ce nouveau système est conçu pour les baies OCP ORv3 afin d'améliorer la compatibilité avec les centres de données
SQL Server la virtualisation sur une seule plateforme haute performance
Accélération des charges de travail d'IA grâce à la priorisation intelligente des cœurs et à la technologie Turbo Boost
Le nouveau mode « Flat Memory » d'Intel® simplifie l'extension de la mémoire
Améliorations significatives en termes d'efficacité de la virtualisation par rapport aux systèmes équipés de processeurs Intel Xeon de 3e génération : une consommation TDP réduite de 27 %, un nombre de cœurs inférieur de 33 % et 50 % de serveurs en moins
Rapport de tests de performance Supermicro AMD MI355X : les résultats montrent un gain de performances à deux chiffres par rapport aux systèmes équipés uniquement d'un processeur, lorsque les charges de travail peuvent tirer parti de l'accélération de calcul offerte par le GPU. Grâce à cette accélération, des charges de travail qui nécessitaient auparavant plusieurs mois de simulation peuvent désormais être exécutées en quelques jours. Consultez le rapport pour en savoir plus.
Le serveur AS-4145GH-TNMR Supermicroet l'APU Instinct™ AMDoffrent une architecture CPU/GPU unifiée dotée d'une mémoire partagée à haut débit, ce qui réduit considérablement la latence des transferts de données et ouvre de nouvelles perspectives en matière de performances pour les sociétés de trading à la recherche de stratégies de trading en temps réel optimisées par l'IA.
Ce rapport présente une analyse approfondie d’une solution d’IA complète comprenant des GPU AMD Instinct™ déployés sur les plates-formes de serveurs H14 Supermicro, H14 . Il conclut que cette combinaison offre des performances de pointe pour les charges de travail critiques des entreprises et accélère le retour sur investissement, répondant ainsi directement aux défis les plus urgents auxquels sont confrontés aujourd’hui les responsables informatiques des entreprises.
ServeTheHome explore en détail la vaste gamme de systèmes Supermicroafin de comprendre comment Supermicro équipés de GPU NVIDIA peuvent être combinés pour déployer l'IA dans pratiquement tous les secteurs d'activité, que ce soit dans les centres de données ou en périphérie.
Supermicro nouveaux Supermicro équipés de processeurs Intel® Xeon® de la série Xeon® avec cœurs P et d'accélérateurs Intel Gaudi 3 affichent des gains de performances par rapport aux générations précédentes
Les nouveaux processeurs AMD EPYC™ sont des processeurs à faible consommation d'énergie conçus pour une large gamme d'applications professionnelles en pleine expansion.
Ces nouveaux serveurs puissants à un seul socket intègrent jusqu’à 136 voies PCIe .0 pour prendre en charge une multitude de périphériques d’extension et de stockage, tout en offrant des performances supérieures à celles des anciens serveurs à deux sockets.
Supermicro affichent des performances par watt accrues grâceEPYC™ AMD EPYC™ de 4e génération haut de gamme
