Conçu pour accélérer le développement et le déploiement d'applications grâce à une infrastructure évolutive et agile
Les systèmes Supermicro NGC-Ready sont validés pour la fonctionnalité et les performances des logiciels d'IA de NVIDIA NGC. Ces systèmes, associés à NVIDIA NGC, permettent aux clients de développer et de déployer des solutions d'IA de bout en bout. Les systèmes sont livrés préinstallés avec le système d'exploitation, le conteneur et l'environnement CUDA nécessaires à l'exécution du logiciel NVIDIA NGC. Supermicro propose l'installation du logiciel NVIDIA NGC comme service additionnel. Un support de niveau entreprise pour le matériel et le système d'exploitation est disponible pour aider les administrateurs système à minimiser les temps d'arrêt, offrant ainsi aux utilisateurs la confiance nécessaire pour prendre en charge les charges de travail d'IA.
Propulsés par NVIDIA V100 et T4, les systèmes Supermicro NGC-Ready accélèrent à la fois l'entraînement et l'inférence. Le logiciel NVIDIA NGC est livré sous forme de conteneurs Docker, ce qui leur permet de fonctionner partout où les systèmes Supermicro NGC-Ready sont déployés :
- dans les centres de données ou dans l'informatique en nuage
- dans des micro-datacenters en périphérie
- dans des sites distants distribués en tant que serveurs EGX sécurisés et résistants à l'environnement
Forts de 26 ans d'expérience dans la fourniture de solutions informatiques de pointe, les systèmes Supermicro représentent aujourd'hui les solutions de serveurs les plus écoénergétiques, les plus performantes et offrant la meilleure valeur sur le marché. Grâce à la prise en charge de réseaux et de stockage ultra-rapides, ainsi que des GPU NVIDIA V100 et T4, les systèmes Supermicro NGC-Ready sont les serveurs les plus évolutifs et fiables pour soutenir l'IA. Les clients peuvent ainsi déployer leurs infrastructures d'IA en toute confiance.
NVIDIA NGC
NGC est le hub de NVIDIA pour les conteneurs d'applications IA, ML et HPC accélérées par le GPU, les SDK et les outils qui permettent d'accéder plus rapidement à des logiciels optimisés pour les performances.
Le registre de conteneurs NGC héberge des conteneurs pour les principaux logiciels d'IA et de science des données — tous réglés, testés et optimisés par NVIDIA — ainsi que des conteneurs entièrement testés pour les applications HPC et l'analyse de données. Ces conteneurs tirent parti des GPU NVIDIA sur site et dans le cloud. Chacun est entièrement optimisé et fonctionne sur une grande variété de solutions de serveurs Supermicro équipées de GPU NVIDIA.
NVIDIA NGC héberge également des modèles pré-entraînés pour aider les data scientists à construire plus rapidement des modèles de haute précision et propose des SDK spécifiques à l'industrie qui simplifient le développement de solutions d'IA de bout en bout avec l'entraînement et l'inférence.
NVIDIA est le leader des accélérateurs GPU haute performance et des logiciels pour le développement et le déploiement de logiciels d'IA. En intégrant les technologies issues des dernières recherches en matière d'IA dans le NGC, les clients peuvent être sûrs de disposer des meilleurs choix pour développer leurs applications d'IA. Grâce aux modèles d'IA pré-entraînés et à l'apprentissage par transfert, les clients peuvent développer des solutions d'IA beaucoup plus rapidement qu'auparavant en utilisant NGC.
Avantages des systèmes NGC-Ready Supermicro
Les systèmes Supermicro NGC-Ready sont validés pour leurs performances et leur fonctionnalité afin d'exécuter des conteneurs NGC. Combinés au logiciel NVIDIA NGC, les systèmes NGC-Ready haut de gamme peuvent agréger des GPU via un réseau et un stockage rapides pour entraîner de grands modèles d'IA avec de grands lots de données. Les systèmes NGC-Ready pour l'Edge déploient des applications d'IA pour l'inférence d'IA.
Les systèmes Supermicro NGC-Ready offrent également les capacités et services suivants :
- Les systèmes dont les performances ont été validées accélèrent la mise en œuvre de la solution et permettent aux responsables informatiques de choisir le bon système pour les charges de travail d'IA appropriées.
- Supermicro propose un service optionnel pour permettre le développement logiciel d'IA immédiat dès la mise sous tension des systèmes. Le système d'exploitation, CUDA, CUDA-X, les pilotes NVIDIA et l'infrastructure de conteneurs sont préchargés.
- Accès aux derniers modèles d'apprentissage profond de NVIDIA NGC. En utilisant des modèles pré-entraînés et vos propres données, de nouveaux modèles d'IA peuvent être construits efficacement.
- Les conteneurs NGC s'exécutent partout, que ce soit sur les systèmes Supermicro dans le centre de données, dans les micro-centres de données périphériques, sur les serveurs Edge, et dans le cloud si le débordement vers le cloud est nécessaire. Kubernetes automatise le déploiement, la mise à l'échelle et la gestion des conteneurs dans votre environnement de production.
- Des services d'assistance pour le matériel, le système d'exploitation et le NVIDIA NGC sont disponibles.
- Service de mise en place d'un rack, de serveurs, de stockage et d'un réseau
- Service de conseil Kubernetes pour le déploiement de plusieurs serveurs.
Supermicro propose des systèmes NGC-Ready dans le cadre de sa pile de solutions IA/DL, incluant un support de niveau entreprise. Veuillez contacter votre représentant commercial Supermicro pour plus d'informations.
Supermicro et NGC – Architecture de solution
Les systèmes NGC Ready de Supermicro aident les clients à exploiter l'ensemble de leur infrastructure d'IA, de l'entraînement de grands modèles de données à l'inférence en centre de données et à l'inférence en périphérie.
Systèmes NGC-Ready Supermicro
Serveurs Supermicro validés pour NVIDIA GPU Cloud (NGC). Veuillez consulter ici pour la liste publiée la plus récente.
 |  | |  |  |  | |
FormationConférence Centre de donnéesBordure | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| UNITÉ CENTRALE | 2 * Xeon Scalable | 2 * Xeon Scalable | 2 * Xeon Scalable | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Accélérateur | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Mémoire | 6 | 4 | 4 | 512 | 512 | 512 |
| Stockage | 16 * SATA3 ; 8 * NVMe | 8 * SATA3 ; 2 * NVMe | 8 * SATA3 ; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Réseau | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 10GbE, 10GSFP+ | 10GbE, 10GSFP+ | 10GBase-T, 10GSFP+ |
| Facteur de forme | Montage en rack 4U | Montage en rack 2U | Montage en rack 2U | Courte profondeur | Boîte PC, courte profondeur | Fixation murale |
Systèmes Supermicro® alimentés par des GPU NVIDIA pour les meilleures performances d'inférence d'IA utilisant NVIDIA TensorRT
Découvrez les avantages de l'utilisation de NVIDIA NGC et NVIDIA TensorRT pour obtenir les meilleures performances d'inférence avec les systèmes Supermicro équipés de GPU NVIDIA. Ce livre blanc montre également comment configurer NGC sur un serveur Supermicro et comment utiliser TensorRT pour l'inférence.
Mise à l'échelle de l'entraînement de l'IA avec les systèmes GPU NVIDIA conçus par Supermicro.
Le délai de mise sur le marché est essentiel au succès du développement de l'IA aujourd'hui. En utilisant les systèmes GPU NVIDIA conçus par Supermicro, avec toutes les dernières piles d'IA installées et prises en charge, les scientifiques des données et les développeurs d'IA peuvent commencer à tester et à entraîner leurs modèles d'IA pour le développement de produits et la recherche.
AI à la mise sous tension
L'IA contribue à résoudre certains des problèmes les plus complexes du monde. La résolution de ces défis énormes nécessite le calcul de grandes quantités de données et des modèles d'IA hautement optimisés fonctionnant à l'échelle. NVIDIA GPU Cloud (NGC) est le hub logiciel accéléré par GPU pour l'IA et le HPC optimisés. Les systèmes NGC-Ready de Supermicro facilitent et optimisent l'exécution de charges de travail importantes grâce à une pile matérielle et logicielle complète de bout en bout accélérée par les GPU NVIDIA Tensor Core.