Conçu pour accélérer le développement et le déploiement d'applications grâce à une infrastructure évolutive et agile
Les systèmes Supermicro sont validés pour la fonctionnalité et les performances des logiciels d'IA de NVIDIA NGC. Associés à NVIDIA NGC, ces systèmes permettent aux clients de développer et de déployer des solutions d'IA de bout en bout. Les systèmes sont livrés avec le système d'exploitation, le conteneur et l'environnement CUDA nécessaires pour exécuter les logiciels NVIDIA NGC préinstallés. Supermicro l'installation des logiciels NVIDIA NGC en tant que service supplémentaire. Une assistance de niveau entreprise pour le matériel et le système d'exploitation est disponible afin d'aider les administrateurs système à minimiser les temps d'arrêt du système, donnant ainsi aux utilisateurs la confiance nécessaire pour prendre en charge les charges de travail IA.
Équipés des cartes NVIDIA V100 et T4, les systèmes Supermicro offrent des gains de vitesse tant pour l'entraînement que pour l'inférence. Le logiciel NVIDIA NGC est fourni sous forme de conteneurs Docker, ce qui permet de l'exécuter partout où les systèmes Supermicro sont déployés :
- dans les centres de données ou dans l'informatique en nuage
- dans des micro-datacenters en périphérie
- dans des sites distants distribués en tant que serveurs EGX sécurisés et résistants à l'environnement
Forts de 26 ans d'expérience dans la fourniture de solutions informatiques de pointe, Supermicro sont les solutions serveurs les plus efficaces, les plus performantes et les plus rentables actuellement disponibles sur le marché. Grâce à leur prise en charge des réseaux et du stockage ultra, ainsi que des GPU NVIDIA V100 et T4, les systèmes Supermicro sont les serveurs les plus évolutifs et les plus fiables pour prendre en charge l'IA. Les clients peuvent exploiter leurs infrastructures IA en toute confiance.
NVIDIA NGC
NGC est le hub de NVIDIA pour les conteneurs d'applications IA, ML et HPC accélérées par le GPU, les SDK et les outils qui permettent d'accéder plus rapidement à des logiciels optimisés pour les performances.
Le registre de conteneurs NGC héberge des conteneurs pour les meilleurs logiciels d'IA et de science des données, tous réglés, testés et optimisés par NVIDIA, ainsi que des conteneurs entièrement testés pour les applications HPC et l'analyse de données. Ces conteneurs tirent parti des GPU NVIDIA sur site et dans le cloud. Chacun d'entre eux est entièrement optimisé et fonctionne sur une large gamme de solutions Supermicro équipées de GPU NVIDIA.
NVIDIA NGC héberge également des modèles pré-entraînés pour aider les data scientists à construire plus rapidement des modèles de haute précision et propose des SDK spécifiques à l'industrie qui simplifient le développement de solutions d'IA de bout en bout avec l'entraînement et l'inférence.
NVIDIA est le leader des accélérateurs GPU haute performance et des logiciels pour le développement et le déploiement de logiciels d'IA. En intégrant les technologies issues des dernières recherches en matière d'IA dans le NGC, les clients peuvent être sûrs de disposer des meilleurs choix pour développer leurs applications d'IA. Grâce aux modèles d'IA pré-entraînés et à l'apprentissage par transfert, les clients peuvent développer des solutions d'IA beaucoup plus rapidement qu'auparavant en utilisant NGC.
Avantages du système Supermicro
Les systèmes Supermicro sont validés en termes de performances et de fonctionnalités pour exécuter des conteneurs NGC. Associés au logiciel NVIDIA NGC, les systèmes haut de gamme NGC-Ready peuvent agréger des GPU via un réseau et un stockage rapides afin de former de grands modèles d'IA avec des lots de données volumineux. Les systèmes NGC-Ready pour Edge déploient des applications d'IA pour l'inférence IA.
Les systèmes Supermicro offrent également les fonctionnalités et services suivants :
- Les systèmes dont les performances ont été validées accélèrent la mise en œuvre de la solution et permettent aux responsables informatiques de choisir le bon système pour les charges de travail d'IA appropriées.
- Supermicro un service optionnel permettant le développement immédiat de logiciels d'IA dès la mise sous tension des systèmes. Le système d'exploitation, CUDA, CUDA-X, les pilotes NVIDIA et l'infrastructure de conteneurs sont préchargés.
- Accès aux derniers modèles d'apprentissage profond de NVIDIA NGC. En utilisant des modèles pré-entraînés et vos propres données, de nouveaux modèles d'IA peuvent être construits efficacement.
- Les conteneurs NGC fonctionnent partout, que ce soit sur les Supermicro du centre de données, dans les micro-centres de données périphériques, sur les serveurs périphériques et dans le cloud si un cloud bursting est nécessaire. Kubernetes automatise le déploiement, la mise à l'échelle et la gestion des conteneurs dans votre environnement de production.
- Des services d'assistance pour le matériel, le système d'exploitation et le NVIDIA NGC sont disponibles.
- Service de mise en place d'un rack, de serveurs, de stockage et d'un réseau
- Service de conseil Kubernetes pour le déploiement de plusieurs serveurs.
Supermicro des systèmes NGC-Ready dans le cadre de notre gamme de solutions IA/DL, y compris une assistance de niveau entreprise. Pour plus d'informations, veuillez contacter votre représentant Supermicro .
Supermicro NGC – Architecture de solution
Les systèmes Supermicro Ready permettent aux clients d'exploiter l'ensemble de leur infrastructure IA, depuis la formation sur des données volumineuses jusqu'à l'inférence dans les centres de données, en passant par l'inférence en périphérie.
Systèmes Supermicro
Serveurs NVIDIA GPU Cloud (NGC) Supermicro . Veuillez consulter ici pour consulter la dernière liste publiée.
 |  | |  |  |  | |
FormationConférence Centre de donnéesBordure | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| UNITÉ CENTRALE | 2 * Xeon Scalable | 2 * Xeon Scalable | 2 * Xeon Scalable | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Accélérateur | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Mémoire | 6 | 4 | 4 | 512 | 512 | 512 |
| Stockage | 16 * SATA3 ; 8 * NVMe | 8 * SATA3 ; 2 * NVMe | 8 * SATA3 ; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Réseau | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 10GbE, 10GSFP+ | 10GbE, 10GSFP+ | 10GBase-T, 10GSFP+ |
| Facteur de forme | Montage en rack 4U | Montage en rack 2U | Montage en rack 2U | Courte profondeur | Boîte PC, courte profondeur | Fixation murale |
Les systèmes Supermicro® équipés de GPU NVIDIA pour les meilleures performances d'inférence IA avec NVIDIA TensorRT
Découvrez les avantages de l'utilisation de NVIDIA NGC et NVIDIA TensorRT pour obtenir les meilleures performances d'inférence à l'aide Supermicro équipés de GPU NVIDIA. Ce livre blanc explique également comment configurer NGC sur un Supermicro et comment utiliser TensorRT pour l'inférence.
Évolutivité de la formation en IA grâce aux systèmes GPU NVIDIA Supermicro
Le délai de mise sur le marché est essentiel à la réussite du développement actuel de l'IA. En utilisant les systèmes GPU NVIDIA Supermicro , équipés et pris en charge par la dernière pile IA, les scientifiques des données et les développeurs IA peuvent commencer à tester et à entraîner leurs modèles IA pour le développement de produits et la recherche.
AI à la mise sous tension
L'IA contribue à résoudre certains des problèmes les plus complexes au monde. Pour relever ces défis colossaux, il faut traiter d'énormes quantités de données et utiliser des modèles d'IA hautement optimisés fonctionnant à grande échelle. NVIDIA GPU Cloud (NGC) est le hub logiciel accéléré par GPU pour une IA et un HPC optimisés. Les systèmes NGC-Ready Supermicropermettent d'exécuter facilement et efficacement des charges de travail importantes grâce à une pile matérielle et logicielle complète et accélérée par GPU NVIDIA Tensor Core de bout en bout.