Biblioteca de recursos

Este IBM Redbook presenta una arquitectura de referencia validada para una infraestructura de IA que permite que la caché KV se almacene de forma persistente, se comparta y se reutilice en solicitudes, sesiones y nodos de GPU. Consta de NVIDIA Dynamo para la gestión inteligente de la caché KV distribuida, IBM® Storage Scale Erasure Coding Edition (ECE) como nivel de almacenamiento compartido de alto rendimiento, Supermicro Servidores a escala peta como base de almacenamiento y redes, y Ethernet NVIDIA Spectrum-X para conectarlo todo con la infraestructura de baja latencia y alto ancho de banda que exige la inferencia de IA en producción.

Óptica coempaquetada con menor potencia , menor latencia y hasta 2 km de alcance cada una .

Este documento representa la arquitectura de referencia para NVIDIA Enterprise AI Factory para Supermicro Sistemas SYS-212GB-FNR. Se trata de una explicación exhaustiva de la tecnología utilizada, la función de cada componente y su configuración.