Supermicro

Conçu pour accélérer l'IA

À mesure que les systèmes d'IA passent des mégawatts aux gigawatts, le centre de gravité se déplace des modèles vers l'infrastructure. Rejoignez trois experts à l'intersection du calcul, des systèmes et des plateformes nationales pour découvrir comment les choix en matière de puissance, de refroidissement, d'architecture et de déploiement déterminent désormais les performances, la souveraineté et le contrôle de l'intelligence. Les participants pourront comprendre pourquoi les principaux goulots d'étranglement des systèmes d'IA avancés se sont déplacés des algorithmes vers l'infrastructure physique, notamment la densité de puissance, le refroidissement et la latence ; apprendre comment déployer une infrastructure d'IA à l'échelle du gigawatt sans compromettre la fiabilité, la sécurité ni la viabilité économique ; explorer comment les choix d'architecture système et d'intégration façonnent le déterminisme, l'isolation et la confiance dans les environnements d'IA à grande échelle ; et comprendre en quoi les déploiements d'IA souverains et d'entreprise diffèrent des modèles de cloud hyperscale traditionnels en matière de gouvernance et de contrôle.

Les entreprises passent de l'expérimentation en IA à la production, où le retour sur investissement est aussi important que la performance. Cette session est présentée par Supermicro NVIDIA explore comment les usines d'IA, l'IA en périphérie et les déploiements sur site interagissent pour fournir des solutions d'IA évolutives et économiques. Nous mettrons en lumière le fonctionnement des systèmes équipés de GPU tels que les NVIDIA RTX PRO 6000/4500. Blackwell L'édition Server prend en charge les charges de travail d'inférence, de visualisation et de génération augmentée par la récupération (RAG) dans les centres de données et les environnements périphériques. Cette session examinera également comment les pipelines RAG tirent parti de l'intégration étroite des GPU, du réseau et du stockage pour fournir des résultats contextuels à faible latence, permettant ainsi aux entreprises d'améliorer le contrôle de leurs données, de réduire leurs coûts opérationnels et de maximiser le retour sur investissement de leurs investissements en IA.

À mesure que les centres de données d'IA évoluent pour prendre en charge des modèles plus volumineux et des densités de clusters plus élevées, le refroidissement liquide devient essentiel. Cette session a été présentée par Supermicro NVIDIA explore la manière dont les usines d'IA de nouvelle génération sont construites à l'aide des systèmes NVIDIA HGX à refroidissement liquide et des plateformes rack NVL72, permettant ainsi de créer des clusters GPU denses et performants pour l'entraînement d'IA à grande échelle. Les participants découvriront comment Supermicro Le déploiement de ces plateformes en tant que solutions validées à l'échelle du rack, plutôt que comme serveurs autonomes, sera abordé. La session couvrira les principaux aspects de conception et de déploiement, notamment le refroidissement direct des puces et l'intégration liquide au niveau du rack, et montrera comment les solutions complètes à refroidissement liquide accélèrent la mise en service tout en améliorant les performances et l'efficacité énergétique des usines d'IA modernes.