Biblioteca de recursos

Supermicro Los servidores con GPU NVIDIA HGX B200 se convierten en la base de una plataforma nacional de IA.

Supermicro Hyper y sistemas FlexTwin con Cornelis CN5000 Omni-Path

La escalabilidad de Enterprise LLM y el rendimiento de vLLM en sistemas de 4 sockets permiten un mayor rendimiento, una mayor concurrencia de usuarios y modelos más grandes que las arquitecturas de 2 sockets.

Al combinar StorMagic con la diversidad Supermicro Gracias a nuestra cartera de servidores, las empresas pueden lograr con confianza una infraestructura hiperconvergente del tamaño adecuado. Esta colaboración le permite seleccionar el modelo de servidor ideal, adaptado a sus necesidades específicas, eliminando así el sobredimensionamiento y garantizando simplicidad, fiabilidad y rentabilidad.

Las extensiones de matriz avanzadas de Intel® (Intel® AMX) mejoran la inferencia vLLM a través del servicio conjunto de CPU-GPU: una arquitectura multiagente que aprovecha Supermicro Sistema HGX B200

Supermicro Familia de servidores de almacenamiento optimizados para rendimiento, capacidad y empresariales.

Este IBM Redbook presenta una arquitectura de referencia validada para una infraestructura de IA que permite que la caché KV se almacene de forma persistente, se comparta y se reutilice en solicitudes, sesiones y nodos de GPU. Consta de NVIDIA Dynamo para la gestión inteligente de la caché KV distribuida, IBM® Storage Scale Erasure Coding Edition (ECE) como nivel de almacenamiento compartido de alto rendimiento, Supermicro Servidores a escala peta como base de almacenamiento y redes, y Ethernet NVIDIA Spectrum-X para conectarlo todo con la infraestructura de baja latencia y alto ancho de banda que exige la inferencia de IA en producción.

Este informe de solución describe los avances en rendimiento y el valor comercial de la pila de aceleración myrtle.ai VOLLO™ que se ejecuta en un Supermicro Servidor AS-2015CS-TNR, tal como se muestra en el informe de evaluación comparativa STAC ML publicado recientemente.

Supermicro Las soluciones de IA que incorporan procesadores Arm AGI están diseñadas para la era de la orquestación de IA a gran escala, ofreciendo rendimiento, eficiencia y densidad que maximizan la rentabilidad de las implementaciones a escala de rack. 

La rápida proliferación de agentes de IA está generando la necesidad de sistemas energéticamente eficientes que ofrezcan los resultados requeridos en el plazo previsto. Si bien el entrenamiento de IA ha dominado los debates recientes, la creciente demanda de inferencia y cargas de trabajo basadas en agentes exige sistemas optimizados energéticamente que operen en diversos entornos. El auge de la IA basada en agentes requerirá CPU capaces de orquestar y gestionar agentes en funcionamiento continuo. Este punto de inflexión exigirá un número significativamente mayor de CPU a escala de rack, manteniendo el consumo energético dentro de los límites de potencia de los centros de datos empresariales actuales.

Rendimiento de la NVIDIA GB300. Supermicro Ingenio. Del escritorio al centro de datos.

El nuevo sistema está diseñado para racks OCP ORv3 para una mayor compatibilidad con centros de datos.