Bibliothèque de ressources

Ce Redbook IBM présente une architecture de référence validée pour une infrastructure d’IA permettant le stockage persistant, le partage et la réutilisation d’un cache KV entre les requêtes, les sessions et les nœuds GPU. Elle se compose de NVIDIA Dynamo pour la gestion intelligente et distribuée du cache KV, d’IBM® Storage Scale Erasure Coding Edition (ECE) en tant que niveau de stockage partagé haute performance, de serveurs Supermicro comme base de stockage et de mise en réseau, et de NVIDIA Spectrum-X Ethernet pour relier l’ensemble grâce à la structure à faible latence et à large bande passante requise par l’inférence IA en production.

Le présent document présente l'architecture de référence de la solution NVIDIA Enterprise AI Factory destinée aux systèmes Supermicro . Il fournit une description détaillée de la technologie utilisée, ainsi que de la fonction et de la configuration de chaque composant.

À mesure que les charges de travail liées à l'IA/ML, à l'IA agentique et à la génération augmentée par la recherche (RAG) gagnent en complexité et en volume, les performances des systèmes de stockage sous-jacents deviennent essentielles. Pour garantir une utilisation optimale des GPU, le stockage doit offrir des performances exceptionnelles tant pour les opérations séquentielles que pour les opérations aléatoires. Grâce à leurs excellentes performances,PCIe NVMe PCIe sont idéaux pour les applications critiques.