Konzipiert für eine beschleunigte Anwendungsentwicklung und -bereitstellung mit skalierbarer und agiler Infrastruktur
Supermicro NGC-Ready Systeme sind auf Funktionalität und Leistung der KI-Software von NVIDIA NGC validiert. Diese Systeme ermöglichen es Kunden, zusammen mit NVIDIA NGC, End-to-End KI-Lösungen zu entwickeln und bereitzustellen. Die Systeme werden mit vorinstalliertem Betriebssystem, Container und CUDA-Umgebung geliefert, die für den Betrieb der NVIDIA NGC Software erforderlich sind. Supermicro bietet die Installation der NVIDIA NGC Software als zusätzlichen Service an. Ein Enterprise-Support für Hardware und Betriebssystem ist verfügbar, um Systemadministratoren dabei zu unterstützen, Systemausfallzeiten zu minimieren, und gibt Benutzern die Sicherheit, KI-Workloads zu unterstützen.
Angetrieben von NVIDIA V100 und T4, bieten die Supermicro NGC-Ready Systeme Beschleunigungen sowohl für das Training als auch für die Inferenz. Die NVIDIA NGC Software wird als Docker-Container bereitgestellt, sodass sie überall dort ausgeführt werden kann, wo die Supermicro NGC-Ready Systeme eingesetzt werden:
- in Rechenzentren oder in der Cloud
- in Edge-Mikrorechenzentren
- an verteilten, entfernten Standorten als umgebungsresistente und gesicherte EGX-Server
Gestützt auf 26 Jahre Erfahrung in der Bereitstellung modernster Computerlösungen sind Supermicro-Systeme die energieeffizientesten, leistungsstärksten und wertvollsten Serverlösungen, die heute auf dem Markt erhältlich sind. Mit Unterstützung für ultraschnelle Netzwerke und Speicher sowie NVIDIA V100- und T4-GPUs sind die Supermicro NGC-Ready-Systeme die skalierbarsten und zuverlässigsten Server zur Unterstützung von KI. Kunden können ihre KI-Infrastrukturen mit Vertrauen betreiben.
NVIDIA NGC
NGC ist NVIDIAs Hub für GPU-beschleunigte KI, ML- und HPC-Anwendungscontainer, SDKs und Tools, die einen schnelleren Zugang zu leistungsoptimierter Software ermöglichen.
Die NGC Container Registry hostet Container für führende KI- und Data-Science-Software — alle von NVIDIA abgestimmt, getestet und optimiert — sowie vollständig getestete Container für HPC-Anwendungen und Datenanalyse. Diese Container nutzen NVIDIA GPUs vor Ort und in der Cloud. Jeder ist vollständig optimiert und funktioniert mit einer Vielzahl von Supermicro Serverlösungen mit NVIDIA GPUs.
NVIDIA NGC hostet auch vortrainierte Modelle, damit Datenwissenschaftler schneller hochgenaue Modelle erstellen können, und bietet branchenspezifische SDKs, die die Entwicklung von KI mit Training und Inferenz vereinfachen.
NVIDIA ist der führende Anbieter von Hochleistungs-GPU-Beschleunigern und Software für die Entwicklung und Bereitstellung von KI . Durch die Integration von Technologien aus der neuesten KI in NGC können Kunden sicher sein, dass sie die beste Wahl für die Entwicklung ihrer KI haben. Mit vortrainierten KI und Transfer Learning können Kunden mit NGC KI viel schneller entwickeln als bisher.
Vorteile der Supermicro NGC-Ready Systeme
Supermicro NGC-Ready Systeme sind auf Leistung und Funktionalität für den Betrieb von NGC-Containern validiert. In Kombination mit der NVIDIA NGC Software können die High-End NGC-Ready Systeme GPUs über schnelle Netzwerke und Speicher aggregieren, um große KI-Modelle mit umfangreichen Datenbatches zu trainieren. NGC-Ready Systeme für Edge stellen KI-Anwendungen für die KI-Inferenz bereit.
Supermicro NGC-Ready Systeme bieten zudem folgende Funktionen und Services:
- Leistungsgeprüfte Systeme verkürzen die Zeit bis zur Lösung und ermöglichen es IT-Managern, das richtige System für die entsprechenden KI auszuwählen.
- Supermicro bietet einen optionalen Service, um die sofortige KI-Softwareentwicklung beim Einschalten der Systeme zu ermöglichen. Betriebssystem, CUDA, CUDA-X, NVIDIA-Treiber und Container-Infrastruktur sind vorinstalliert.
- Zugang zu den neuesten und modernsten Deep Learning KI von NVIDIA NGC. Mit vortrainierten Modellen und Ihren eigenen Daten können neue KI effizient erstellt werden
- Die NGC-Container laufen überall, sei es auf den Supermicro-Systemen im Rechenzentrum, in Edge-Mikro-Rechenzentren, auf Edge-Servern und in der Cloud, wenn Cloud Bursting erforderlich ist. Kubernetes automatisiert die Bereitstellung, Skalierung und Verwaltung von Containern in Ihrer Produktionsumgebung.
- Hardware-, Betriebssystem- und NVIDIA NGC-Supportdienste sind verfügbar
- Service zur Einrichtung von Rack, Servern, Speicher und Netzwerk
- Kubernetes-Beratungsdienst für den Einsatz mehrerer Server
Supermicro bietet NGC-Ready Systeme als Teil unseres KI-/DL-Lösungsstacks, einschließlich Support auf Unternehmensebene. Für weitere Informationen wenden Sie sich bitte an Ihren Supermicro Vertriebsmitarbeiter.
Supermicro und NGC – Lösungsarchitektur
Supermicro NGC-Ready Systeme unterstützen Kunden beim Betrieb ihrer gesamten KI-Infrastruktur, von groß angelegtem Datentraining über Data-Center-Inferenz bis hin zur Edge-Inferenz.
Supermicro NGC-Ready Systeme
Supermicro Validierte NVIDIA GPU Cloud (NGC) Server. Die aktuellste veröffentlichte Liste finden Sie hier.
 |  | |  |  |  | |
AusbildungInferencing RechenzentrumEdge | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| CPU | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 2 * Xeon skalierbar | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Beschleuniger | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Speicher | 6TB | 4TB | 4TB | 512 | 512 | 512 |
| Lagerung | 16 * SATA3; 8 * NVMe | 8 * SATA3; 2 * NVMe | 8 * SATA3; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Netzwerk | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 100GbE, GPU Direct RDMA | 10GbE, 10GSFP+ | 10GbE, 10GSFP+ | 10GBase-T, 10GSFP+ |
| Formfaktor | 4U Rackmount | 2U Rackmount | 2U Rackmount | Kurze Tiefe | Box PC, kurze Tiefe | Wandhalterung |
Supermicro® Systeme mit NVIDIA GPUs für beste KI-Inferenzleistung unter Verwendung von NVIDIA TensorRT
Erfahren Sie mehr über die Vorteile der Nutzung von NVIDIA NGC und NVIDIA TensorRT, um die beste Inferenzleistung mit Supermicro Systemen, die von NVIDIA GPUs angetrieben werden, zu erzielen. Dieses Whitepaper zeigt auch, wie NGC auf einem Supermicro Server eingerichtet und TensorRT für die Inferenz genutzt werden kann.
Skalierung des KI-Trainings mit von Supermicro entwickelten NVIDIA GPU-Systemen
Die Markteinführungszeit ist entscheidend für den Erfolg der heutigen KI-Entwicklung. Durch den Einsatz von Supermicro-entwickelten NVIDIA GPU-Systemen mit dem neuesten installierten und unterstützten KI-Stack können Datenwissenschaftler und KI-Entwickler mit dem Testen und Trainieren ihrer KI-Modelle für Produktentwicklung und Forschung beginnen.
KI
KI hilft, einige der komplexesten Probleme der Welt zu lösen. Die Bewältigung dieser enormen Herausforderungen erfordert die Berechnung großer Datenmengen und hochoptimierte KI-Modelle, die im großen Maßstab ausgeführt werden. NVIDIA GPU Cloud (NGC) ist der GPU-beschleunigte Software-Hub für optimierte KI und HPC. Supermicros NGC-Ready-Systeme ermöglichen es, große Workloads einfach und effizient mit einem kompletten End-to-End NVIDIA Tensor Core GPU-beschleunigten Hardware- und Software-Stack auszuführen.