Supermicro

Diseñado para acelerar la IA

A medida que los sistemas de IA escalan de megavatios a gigavatios, el centro de gravedad se desplaza de los modelos a la infraestructura. Únase a tres líderes que operan en la intersección de la computación, los sistemas y las plataformas nacionales mientras examinan cómo la energía, la refrigeración, la arquitectura y las decisiones de implementación determinan ahora el rendimiento, la soberanía y el control de la inteligencia. Los usuarios podrán comprender por qué los principales cuellos de botella en los sistemas avanzados de IA se han desplazado de los algoritmos a la infraestructura física, incluyendo la densidad de potencia, la refrigeración y la latencia; aprender qué se necesita para implementar infraestructura de IA a escala de gigavatios sin comprometer la confiabilidad, la seguridad o la viabilidad económica; explorar cómo la arquitectura del sistema y las decisiones de integración dan forma al determinismo, el aislamiento y la confianza en entornos de IA a gran escala; y obtener información sobre cómo las implementaciones de IA soberanas y empresariales difieren de los modelos tradicionales de nube hiperescalable en gobernanza y control.

Las empresas están pasando de la experimentación con IA a la producción, donde el retorno de la inversión es tan importante como el rendimiento. Esta sesión presentada por Supermicro NVIDIA explora cómo las fábricas de IA, la IA en el borde y las implementaciones locales trabajan juntas para ofrecer soluciones de IA escalables y rentables. Destacaremos cómo los sistemas impulsados ​​por GPU como la NVIDIA RTX PRO 6000/4500 Blackwell La edición para servidores admite cargas de trabajo de inferencia, visualización y generación aumentada por recuperación (RAG) en centros de datos y entornos periféricos. La sesión también analizará cómo las canalizaciones RAG se benefician de la estrecha integración de GPU, redes y almacenamiento para ofrecer resultados de baja latencia y sensibles al contexto, lo que ayuda a las empresas a mejorar el control de datos, reducir los costos operativos y maximizar el retorno de la inversión en IA.

A medida que las fábricas de IA se expanden para admitir modelos más grandes y mayores densidades de clústeres, la refrigeración líquida se ha vuelto esencial. Esta sesión presentada por Supermicro y NVIDIA explora cómo se construyen las fábricas de IA de próxima generación utilizando sistemas NVIDIA HGX refrigerados por líquido y plataformas NVL72 a escala de rack, lo que permite clústeres de GPU densos y de alto rendimiento para el entrenamiento de IA a gran escala. Los asistentes obtendrán información sobre Supermicro La sesión abordará el despliegue de estas plataformas como soluciones validadas a escala de rack, en lugar de servidores independientes. Se tratarán consideraciones clave de diseño e implementación, como la refrigeración directa al chip y la integración de líquido a nivel de rack, y se mostrará cómo las soluciones integrales con refrigeración líquida aceleran la puesta en marcha, al tiempo que mejoran el rendimiento y la eficiencia energética para las modernas fábricas de IA.