Supermicro

Conçu pour accélérer l'IA

À mesure que les systèmes d'IA passent de mégawatts à gigawatts, le centre de gravité se déplace des modèles vers l'infrastructure. Rejoignez trois leaders opérant à la croisée des chemins entre l'informatique, les systèmes et les plateformes nationales, qui examinent comment les choix en matière d'alimentation, de refroidissement, d'architecture et de déploiement déterminent désormais les performances, la souveraineté et le contrôle de l'intelligence. Les utilisateurs pourront comprendre pourquoi les principaux goulots d'étranglement des systèmes d'IA avancés sont passés des algorithmes à l'infrastructure physique, notamment la densité de puissance, le refroidissement et la latence ; découvrir ce qu'il faut pour déployer une infrastructure d'IA à l'échelle du gigawatt sans compromettre la fiabilité, la sécurité ou la viabilité économique ; explorer comment les choix en matière d'architecture et d'intégration des systèmes façonnent le déterminisme, l'isolation et la confiance dans les environnements d'IA à grande échelle ; et comprendre en quoi les déploiements d'IA souverains et d'entreprise diffèrent des modèles cloud hyperscale traditionnels en matière de gouvernance et de contrôle.

Les entreprises passent de l'expérimentation de l'IA à la production, où le retour sur investissement est tout aussi important que les performances. Cette session présentée par Supermicro NVIDIA explore comment les usines d'IA, l'IA en périphérie et les déploiements sur site fonctionnent ensemble pour fournir des solutions d'IA évolutives et rentables. Nous mettrons en avant la manière dont les systèmes équipés de GPU tels que le NVIDIA RTX PRO 6000/4500 Blackwell Server Edition prennent en charge les charges de travail d'inférence, de visualisation et de génération augmentée par la récupération (RAG) dans les centres de données et les environnements périphériques. La session examinera également comment les pipelines RAG tirent parti de l'intégration étroite des GPU, des réseaux et du stockage pour fournir des résultats à faible latence et adaptés au contexte, aidant ainsi les entreprises à améliorer le contrôle des données, à réduire les coûts opérationnels et à maximiser le retour sur investissement des investissements dans l'IA.

À mesure que les usines d'IA s'adaptent pour prendre en charge des modèles plus volumineux et des densités de clusters plus élevées, le refroidissement liquide est devenu essentiel. Cette session présentée par Supermicro NVIDIA explore la manière dont les usines d'IA de nouvelle génération sont construites à l'aide de systèmes NVIDIA HGX refroidis par liquide et de plates-formes à l'échelle du rack NVL72, permettant ainsi la mise en place de clusters GPU denses et hautement performants pour la formation à l'IA à grande échelle. Les participants découvriront comment Supermicro déploie ces plateformes en tant que solutions à l'échelle du rack validées plutôt que comme des serveurs autonomes. La session abordera les principaux aspects à prendre en compte lors de la conception et du déploiement, notamment le refroidissement direct des puces et l'intégration de liquide au niveau du rack, et montrera comment les solutions complètes à refroidissement liquide accélèrent la mise en service tout en améliorant les performances et l'efficacité énergétique des usines d'IA modernes.