Konzipiert für eine beschleunigte Anwendungsentwicklung und -bereitstellung mit skalierbarer und agiler Infrastruktur
Supermicro sind hinsichtlich Funktionalität und Leistung für KI von NVIDIA NGC validiert. Diese Systeme ermöglichen es Kunden in Verbindung mit NVIDIA NGC, KI zu entwickeln und einzusetzen. Die Systeme sind mit dem Betriebssystem, dem Container und der CUDA-Umgebung vorinstalliert, die für die Ausführung der NVIDIA NGC-Software erforderlich sind. Supermicro die Installation der NVIDIA NGC-Software als zusätzlichen Service Supermicro . Es steht Support auf Unternehmensniveau für Hardware und Betriebssystem zur Verfügung, um Systemadministratoren dabei zu helfen, Systemausfallzeiten zu minimieren, sodass Benutzer KI vertrauensvoll unterstützen können.
Die Supermicro werden von NVIDIA V100 und T4 angetrieben und bieten Beschleunigungen sowohl für das Training als auch für die Inferenz. Die NVIDIA NGC-Software wird als Docker-Container bereitgestellt, sodass sie überall dort ausgeführt werden kann, wo die Supermicro eingesetzt werden:
- in Rechenzentren oder in der Cloud
- in Edge-Mikrorechenzentren
- an verteilten, entfernten Standorten als umgebungsresistente und gesicherte EGX-Server
Mit 26 Jahren Erfahrung in der Bereitstellung modernster Computerlösungen sind Supermicro die energieeffizientesten, leistungsstärksten und wertvollsten Serverlösungen, die derzeit auf dem Markt erhältlich sind. Mit Unterstützung für ultra Netzwerke und Speicher sowie NVIDIA V100- und T4-GPUs sind die Supermicro die skalierbarsten und zuverlässigsten Server für KI. Kunden können ihre KI mit Vertrauen betreiben.
NVIDIA NGC
NGC ist NVIDIAs Hub für GPU-beschleunigte KI, ML- und HPC-Anwendungscontainer, SDKs und Tools, die einen schnelleren Zugang zu leistungsoptimierter Software ermöglichen.
Das NGC-Container-Register hostet Container für die führende KI Data-Science-Software – alle von NVIDIA abgestimmt, getestet und optimiert – sowie vollständig getestete Container für HPC-Anwendungen und Datenanalysen. Diese Container nutzen die Vorteile von NVIDIA-GPUs vor Ort und in der Cloud. Jeder Container ist vollständig optimiert und funktioniert mit einer Vielzahl von Supermicro mit NVIDIA-GPUs.
NVIDIA NGC hostet auch vortrainierte Modelle, damit Datenwissenschaftler schneller hochgenaue Modelle erstellen können, und bietet branchenspezifische SDKs, die die Entwicklung von KI mit Training und Inferenz vereinfachen.
NVIDIA ist der führende Anbieter von Hochleistungs-GPU-Beschleunigern und Software für die Entwicklung und Bereitstellung von KI . Durch die Integration von Technologien aus der neuesten KI in NGC können Kunden sicher sein, dass sie die beste Wahl für die Entwicklung ihrer KI haben. Mit vortrainierten KI und Transfer Learning können Kunden mit NGC KI viel schneller entwickeln als bisher.
Vorteile des Supermicro -Systems
Supermicro sind hinsichtlich ihrer Leistung und Funktionalität für den Betrieb von NGC-Containern validiert. In Kombination mit der NVIDIA NGC-Software können die High-End-NGC-Ready-Systeme GPUs über schnelle Netzwerke und Speicher zusammenfassen, um große KI mit umfangreichen Datenstapeln zu trainieren. NGC-Ready-Systeme für Edge setzen KI für KI ein.
Supermicro -Systeme bieten außerdem die folgenden Funktionen und Dienste:
- Leistungsgeprüfte Systeme verkürzen die Zeit bis zur Lösung und ermöglichen es IT-Managern, das richtige System für die entsprechenden KI auszuwählen.
- Supermicro einen optionalen Service, der eine sofortige KI ermöglicht, sobald die Systeme eingeschaltet sind. Betriebssystem, CUDA, CUDA-X, NVIDIA-Treiber und Container-Infrastruktur sind vorinstalliert.
- Zugang zu den neuesten und modernsten Deep Learning KI von NVIDIA NGC. Mit vortrainierten Modellen und Ihren eigenen Daten können neue KI effizient erstellt werden
- Die NGC-Container laufen überall, egal ob auf den Supermicro im Rechenzentrum, in Edge-Mikro-Rechenzentren, auf Edge-Servern oder in der Cloud, wenn Cloud Bursting erforderlich ist. Kubernetes automatisiert die Bereitstellung, Skalierung und Verwaltung von Containern in Ihrer Produktionsumgebung.
- Hardware-, Betriebssystem- und NVIDIA NGC-Supportdienste sind verfügbar
- Service zur Einrichtung von Rack, Servern, Speicher und Netzwerk
- Kubernetes-Beratungsdienst für den Einsatz mehrerer Server
Supermicro NGC-Ready-Systeme als Teil unseres KISupermicro , einschließlich Support auf Unternehmensebene. Weitere Informationen erhalten Sie von Ihrem Supermicro .
Supermicro NGC – Lösungsarchitektur
Supermicro Ready Systems unterstützen Kunden beim Betrieb ihrer gesamten KI , vom Training großer Datenmengen über die Inferenz im Rechenzentrum bis hin zur Edge-Inferenz.
Supermicro Systeme
Supermicro NVIDIA GPU Cloud (NGC)-Server. Bitte überprüfen Sie hier die aktuellste veröffentlichte Liste.
 |  | |  |  |  | |
AusbildungInferencing RechenzentrumEdge | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| CPU | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Beschleuniger | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Speicher | 6TB | 4TB | 4TB | 512 | 512 | 512 |
| Lagerung | 16 * SATA3; 8 * NVMe | 8 * SATA3; 2 * NVMe | 8 * SATA3; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Netzwerk | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 10GbE, 10GSFP+ | 10GbE, 10GSFP+ | 10GBase-T, 10GSFP+ |
| Formfaktor | 4U Rackmount | 2U Rackmount | 2U Rackmount | Kurze Tiefe | Box PC, kurze Tiefe | Wandhalterung |
Supermicro®-Systeme mit NVIDIA-GPUs für beste KI mit NVIDIA TensorRT
Erfahren Sie mehr über die Vorteile der Verwendung von NVIDIA NGC und NVIDIA TensorRT, um mit Supermicro , die mit NVIDIA-GPUs ausgestattet sind, die beste Inferenzleistung zu erzielen. Dieses Whitepaper zeigt auch, wie Sie NGC auf einem Supermicro einrichten und TensorRT für die Inferenz verwenden können.
Skalierung KI mit Supermicro NVIDIA-GPU-Systemen
Die Markteinführungszeit ist der Schlüssel zum Erfolg für KI heutige KI . Durch den Einsatz Supermicro NVIDIA-GPU-Systemen mit den neuesten KI können Datenwissenschaftler und KI mit dem Testen und Trainieren ihrer KI für die Produktentwicklung und Forschung beginnen.
KI
KI , einige der komplexesten Probleme der Welt zu lösen. Die Bewältigung dieser enormen Herausforderungen erfordert die Berechnung großer Datenmengen und hochoptimierte KI , die in großem Maßstab ausgeführt werden. NVIDIA GPU Cloud (NGC) ist der GPU-beschleunigte Software-Hub für optimierte KI HPC. Die NGC-Ready-Systeme Supermicroermöglichen die einfache und effiziente Ausführung großer Workloads mit einem kompletten End-to-End-Hardware- und Software-Stack, der durch NVIDIA Tensor Core-GPUs beschleunigt wird.