Supermicro

Diseñado para acelerar la IA

A medida que los sistemas de IA pasan de megavatios a gigavatios, el centro de gravedad se está desplazando de los modelos a la infraestructura. Únase a tres líderes que operan en la intersección de la informática, los sistemas y las plataformas nacionales mientras examinan cómo las opciones de alimentación, refrigeración, arquitectura e implementación determinan ahora el rendimiento, la soberanía y el control de la inteligencia. Los usuarios podrán comprender por qué los principales cuellos de botella en los sistemas avanzados de IA han pasado de los algoritmos a la infraestructura física, incluyendo la densidad de potencia, la refrigeración y la latencia; aprenderán lo que se necesita para implementar una infraestructura de IA a escala de gigavatios sin comprometer la fiabilidad, la seguridad o la viabilidad económica; explorarán cómo las opciones de arquitectura e integración de sistemas dan forma al determinismo, el aislamiento y la confianza en entornos de IA a gran escala; y obtendrán información sobre cómo las implementaciones de IA soberanas y empresariales difieren de los modelos tradicionales de nube a hiperescala en cuanto a gobernanza y control.

Las empresas están pasando de la experimentación con la IA a la producción, donde el retorno de la inversión es tan importante como el rendimiento. En esta sesión, presentada por Supermicro NVIDIA, se analiza cómo las fábricas de IA, la IA periférica y las implementaciones locales se combinan para ofrecer soluciones de IA escalables y rentables. Destacaremos cómo los sistemas equipados con GPU como NVIDIA RTX PRO 6000/4500 Blackwell Server Edition admiten cargas de trabajo de inferencia, visualización y generación aumentada por recuperación (RAG) en centros de datos y entornos periféricos. La sesión también examinará cómo las canalizaciones RAG se benefician de la estrecha integración de las GPU, las redes y el almacenamiento para ofrecer resultados de baja latencia y sensibles al contexto, lo que ayuda a las empresas a mejorar el control de los datos, reducir los costes operativos y maximizar el retorno de la inversión en IA.

A medida que las fábricas de IA se amplían para admitir modelos más grandes y densidades de clústeres más altas, la refrigeración líquida se ha convertido en algo esencial. En esta sesión presentada por Supermicro NVIDIA se analiza cómo se construyen las fábricas de IA de última generación utilizando sistemas NVIDIA HGX refrigerados por líquido y plataformas a escala de rack NVL72, lo que permite clústeres de GPU densos y de alto rendimiento para el entrenamiento de IA a gran escala. Los asistentes obtendrán información sobre la implementación Supermicro de estas plataformas como soluciones validadas a escala de rack en lugar de servidores independientes. La sesión abarcará consideraciones clave de diseño e implementación, incluida la refrigeración directa del chip y la integración de líquidos a nivel de rack, y mostrará cómo las soluciones totales refrigeradas por líquido aceleran el tiempo de puesta en marcha, al tiempo que mejoran el rendimiento y la eficiencia energética de las fábricas de IA modernas.