Supermicro

Diseñado para acelerar la IA

A medida que los sistemas de IA pasan de megavatios a gigavatios, el centro de gravedad se está desplazando de los modelos a la infraestructura. Únase a tres líderes que operan en la intersección de la informática, los sistemas y las plataformas nacionales mientras examinan cómo las opciones de alimentación, refrigeración, arquitectura e implementación determinan ahora el rendimiento, la soberanía y el control de la inteligencia. Los usuarios podrán comprender por qué los principales cuellos de botella en los sistemas avanzados de IA han pasado de los algoritmos a la infraestructura física, incluyendo la densidad de potencia, la refrigeración y la latencia; aprenderán lo que se necesita para implementar una infraestructura de IA a escala de gigavatios sin comprometer la fiabilidad, la seguridad o la viabilidad económica; explorarán cómo las opciones de arquitectura e integración de sistemas dan forma al determinismo, el aislamiento y la confianza en entornos de IA a gran escala; y obtendrán información sobre cómo las implementaciones de IA soberanas y empresariales difieren de los modelos tradicionales de nube a hiperescala en cuanto a gobernanza y control.

Las empresas están pasando de la experimentación con IA a la producción, donde el ROI importa tanto como el rendimiento. Esta sesión, presentada por Supermicro y NVIDIA, explora cómo las fábricas de IA, la IA en el edge y las implementaciones on-premise trabajan juntas para ofrecer soluciones de IA escalables y rentables. Destacaremos cómo los sistemas impulsados por GPU, como la NVIDIA RTX PRO 6000/4500 Blackwell Server Edition, soportan cargas de trabajo de inferencia, visualización y Generación Aumentada por Recuperación (RAG) en centros de datos y entornos edge. La sesión también examinará cómo los pipelines de RAG se benefician de la integración estrecha de GPU, redes y almacenamiento para ofrecer resultados de baja latencia y conscientes del contexto, ayudando a las empresas a mejorar el control de datos, reducir los costes operativos y maximizar el ROI de las inversiones en IA.

A medida que las fábricas de IA escalan para soportar modelos más grandes y mayores densidades de clúster, la refrigeración líquida se ha vuelto esencial. Esta sesión, presentada por Supermicro y NVIDIA, explora cómo se construyen las fábricas de IA de próxima generación utilizando sistemas NVIDIA HGX refrigerados por líquido y plataformas NVL72 a escala de rack, lo que permite clústeres de GPU densos y de alto rendimiento para el entrenamiento de IA a gran escala. Los asistentes obtendrán información sobre el despliegue de estas plataformas por parte de Supermicro como soluciones validadas a escala de rack, en lugar de servidores independientes. La sesión cubrirá consideraciones clave de diseño y despliegue, incluida la refrigeración directa al chip y la integración líquida a nivel de rack, y mostrará cómo las soluciones completas refrigeradas por líquido aceleran el tiempo de puesta en marcha al tiempo que mejoran el rendimiento y la eficiencia energética para las fábricas de IA modernas.