Konzipiert für eine beschleunigte Anwendungsentwicklung und -bereitstellung mit skalierbarer und agiler Infrastruktur
Supermicro NGC-Ready Systems are validated for functionality and performance of AI software from NVIDIA NGC. These systems, together with NVIDIA NGC, enable customers to develop and deploy end-to-end AI solutions. The systems come pre-installed with operating system, container, CUDA environment necessary to run NVIDIA NGC software. Supermicro provides NVIDIA NGC software installation as an additional service. Enterprise-grade support for hardware and the operating system is available to help system administrators minimize system downtime, giving users the confidence to support AI workloads.
Powered by NVIDIA V100 and T4, the Supermicro NGC-Ready systems provide speedups for both training and inference. The NVIDIA NGC software is delivered as Docker containers, so they can run anywhere the Supermicro NGC-Ready Systems are deployed:
- in Rechenzentren oder in der Cloud
- in Edge-Mikrorechenzentren
- an verteilten, entfernten Standorten als umgebungsresistente und gesicherte EGX-Server
Backed by 26 years of experience delivering state-of-the art computing solutions, Supermicro systems are the most power-efficient, highest-performing, and highest-value server solutions on the market today. With support for ultra-fast networking and storage, as well as NVIDIA V100 and T4 GPUs, the Supermicro NGC-Ready systems are the most scalable and reliable servers to support AI. Customers can run their AI infrastructures with confidence.
NVIDIA NGC
NGC ist NVIDIAs Hub für GPU-beschleunigte KI, ML- und HPC-Anwendungscontainer, SDKs und Tools, die einen schnelleren Zugang zu leistungsoptimierter Software ermöglichen.
NGC container registry hosts containers for the top AI and data science software — all tuned, tested and optimized by NVIDIA — as well as fully tested containers for HPC applications and data analytics. These containers take advantage of NVIDIA GPUs on-premises and in the cloud. Each is fully optimized and works across a wide variety of Supermicro server solutions with NVIDIA GPUs.
NVIDIA NGC hostet auch vortrainierte Modelle, damit Datenwissenschaftler schneller hochgenaue Modelle erstellen können, und bietet branchenspezifische SDKs, die die Entwicklung von KI mit Training und Inferenz vereinfachen.
NVIDIA ist der führende Anbieter von Hochleistungs-GPU-Beschleunigern und Software für die Entwicklung und Bereitstellung von KI . Durch die Integration von Technologien aus der neuesten KI in NGC können Kunden sicher sein, dass sie die beste Wahl für die Entwicklung ihrer KI haben. Mit vortrainierten KI und Transfer Learning können Kunden mit NGC KI viel schneller entwickeln als bisher.
Supermicro NGC-Ready System Advantages
Supermicro NGC-Ready systems are validated for performance and functionality to run NGC containers. Combined with the NVIDIA NGC software, the high-end NGC-Ready systems can aggregate GPUs over fast network and storage to train big AI models with large data batches. NGC-Ready systems for Edge deploy AI applications for AI inferencing.
Supermicro NGC-Ready systems also offer the following capabilities and services:
- Leistungsgeprüfte Systeme verkürzen die Zeit bis zur Lösung und ermöglichen es IT-Managern, das richtige System für die entsprechenden KI auszuwählen.
- Supermicro offers an optional service to enable Immediate AI software development when the systems are powered on. Operating System, CUDA, CUDA-X, NVIDIA drivers, and container infrastructure are preloaded
- Zugang zu den neuesten und modernsten Deep Learning KI von NVIDIA NGC. Mit vortrainierten Modellen und Ihren eigenen Daten können neue KI effizient erstellt werden
- The NGC containers run anywhere, whether on the Supermicro systems in the data center, in edge micro datacenters, on edge servers, and in the cloud if cloud bursting is needed. Kubernetes automate deployment, scaling and management of containers in your production environment
- Hardware-, Betriebssystem- und NVIDIA NGC-Supportdienste sind verfügbar
- Service zur Einrichtung von Rack, Servern, Speicher und Netzwerk
- Kubernetes-Beratungsdienst für den Einsatz mehrerer Server
Supermicro offers NGC-Ready Systems as part of our AI/DL solution stack, including enterprise level support. Please speak to your Supermicro sales representative for more information.
Supermicro and NGC – Solution Architecture
Supermicro NGC Ready Systems support customers to run their entire AI infrastructure, from large data training to data center inference, to edge inference.
Supermicro NGC-Ready Systems
Supermicro Validated NVIDIA GPU Cloud (NGC) Servers. Please check here for the latest published list.
 |  | |  |  |  | |
AusbildungInferencing RechenzentrumEdge | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| CPU | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Beschleuniger | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Speicher | 6TB | 4TB | 4TB | 512 GB | 512 GB | 512 GB |
| Lagerung | 16 * SATA3; 8 * NVMe | 8 * SATA3; 2 * NVMe | 8 * SATA3; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Netzwerk | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 10GbE, 10GSFP+ | 10GbE, 10GSFP+ | 10GBase-T, 10GSFP+ |
| Formfaktor | 4U Rackmount | 2U Rackmount | 2U Rackmount | Kurze Tiefe | Box PC, kurze Tiefe | Wandhalterung |
Supermicro®-Systeme mit NVIDIA-GPUs für beste KI mit NVIDIA TensorRT
Erfahren Sie mehr über die Vorteile der Verwendung von NVIDIA NGC und NVIDIA TensorRT, um mit Supermicro , die mit NVIDIA-GPUs ausgestattet sind, die beste Inferenzleistung zu erzielen. Dieses Whitepaper zeigt auch, wie Sie NGC auf einem Supermicro einrichten und TensorRT für die Inferenz verwenden können.
Skalierung KI mit Supermicro NVIDIA-GPU-Systemen
Die Markteinführungszeit ist der Schlüssel zum Erfolg für KI heutige KI . Durch den Einsatz Supermicro NVIDIA-GPU-Systemen mit den neuesten KI können Datenwissenschaftler und KI mit dem Testen und Trainieren ihrer KI für die Produktentwicklung und Forschung beginnen.
KI
KI , einige der komplexesten Probleme der Welt zu lösen. Die Bewältigung dieser enormen Herausforderungen erfordert die Berechnung großer Datenmengen und hochoptimierte KI , die in großem Maßstab ausgeführt werden. NVIDIA GPU Cloud (NGC) ist der GPU-beschleunigte Software-Hub für optimierte KI HPC. Die NGC-Ready-Systeme Supermicroermöglichen die einfache und effiziente Ausführung großer Workloads mit einem kompletten End-to-End-Hardware- und Software-Stack, der durch NVIDIA Tensor Core-GPUs beschleunigt wird.