Supermicro

Conçu pour accélérer l'IA

À mesure que les systèmes d'IA passent de mégawatts à gigawatts, le centre de gravité se déplace des modèles vers l'infrastructure. Rejoignez trois leaders opérant à la croisée des chemins entre l'informatique, les systèmes et les plateformes nationales, qui examinent comment les choix en matière d'alimentation, de refroidissement, d'architecture et de déploiement déterminent désormais les performances, la souveraineté et le contrôle de l'intelligence. Les utilisateurs pourront comprendre pourquoi les principaux goulots d'étranglement des systèmes d'IA avancés sont passés des algorithmes à l'infrastructure physique, notamment la densité de puissance, le refroidissement et la latence ; découvrir ce qu'il faut pour déployer une infrastructure d'IA à l'échelle du gigawatt sans compromettre la fiabilité, la sécurité ou la viabilité économique ; explorer comment les choix en matière d'architecture et d'intégration des systèmes façonnent le déterminisme, l'isolation et la confiance dans les environnements d'IA à grande échelle ; et comprendre en quoi les déploiements d'IA souverains et d'entreprise diffèrent des modèles cloud hyperscale traditionnels en matière de gouvernance et de contrôle.

Les entreprises passent de l'expérimentation de l'IA à la production, où le retour sur investissement (ROI) est aussi important que la performance. Cette session, présentée par Supermicro et NVIDIA, explore comment les usines d'IA, l'IA en périphérie (edge AI) et les déploiements sur site (on-prem) collaborent pour offrir des solutions d'IA évolutives et rentables. Nous mettrons en évidence la manière dont les systèmes alimentés par des GPU tels que l'édition NVIDIA RTX PRO 6000/4500 Blackwell Server prennent en charge les charges de travail d'inférence, de visualisation et de génération augmentée par récupération (RAG) dans les centres de données et les environnements de périphérie. La session examinera également comment les pipelines RAG bénéficient de GPU, de réseaux et de stockage étroitement intégrés pour fournir des résultats à faible latence et sensibles au contexte, aidant ainsi les entreprises à améliorer le contrôle des données, à réduire les coûts opérationnels et à maximiser le retour sur investissement des investissements en IA.

Alors que les usines d'IA s'étendent pour prendre en charge des modèles plus grands et des densités de clusters plus élevées, le refroidissement liquide est devenu essentiel. Cette session, présentée par Supermicro et NVIDIA, explore la manière dont les usines d'IA de nouvelle génération sont construites à l'aide de systèmes NVIDIA HGX refroidis par liquide et de plateformes NVL72 à l'échelle du rack, permettant des clusters GPU denses et haute performance pour l'entraînement d'IA à grande échelle. Les participants obtiendront un aperçu du déploiement par Supermicro de ces plateformes en tant que solutions validées à l'échelle du rack plutôt que comme des serveurs autonomes. La session couvrira les considérations clés de conception et de déploiement, y compris le refroidissement direct sur puce et l'intégration liquide au niveau du rack, et montrera comment les solutions complètes refroidies par liquide accélèrent le temps de mise en ligne tout en améliorant les performances et l'efficacité énergétique pour les usines d'IA modernes.