Netzwerkhardware, Geräte und Ausrüstung für Rechenzentren

KI den Bedarf an fortschrittlicherer Recheninfrastruktur, einschließlich Netzwerken, KI . Eine unzureichende Netzwerkbandbreite führt häufig zu Engpässen bei der Informationsverarbeitung, die KI antreibt. Eine beschleunigte Recheninfrastruktur ist nur so schnell wie ihr schwächstes Glied, und allzu oft ist das das Netzwerk. Glücklicherweise Supermicro in Zusammenarbeit mit NVIDIA die neue NVIDIA Spectrum-X-Netzwerkplattform in mehreren seiner Systeme qualifiziert, um eine bis zu 1,6-fach bessere Netzwerkleistung für KI sowie eine höhere Energieeffizienz und geringere Gesamtbetriebskosten zu ermöglichen. Mit der Kombination aus dem NVIDIA Spectrum-4-Ethernet-Switch und dem NVIDIA BlueField®-3 SuperNIC können Kunden nun die Vorteile der leistungsstärksten KI nutzen.

Zu den Systemen, die derzeit mit der NVIDIA Spectrum-X-Netzwerklösung qualifiziert werden, gehören die sehr beliebten GPU-SuperServer Supermicro, die in den Höhen 4U, 5U und 8U erhältlich sind und NVIDIA-GPUs in den folgenden Systemen unterstützen:

• Supermicro mit NVIDIA HGX H100 8-GPU-Systemen:
  • SYS-821GE-TNHR (8U) - Intel CPUs
  • AS -8125GS-TNHR (8U) - AMD CPUs
  • SYS-421GU-TNXR (4U) - Intel CPUs
• Supermicro (4U und 5U) mit NVIDIA H100 PCIe-GPUs oder NVIDIA L40S-GPUs:
  • SYS-521GE-TNRT (5U) - Intel CPUs
  • SYS-421GE-TNRT (4U) - Intel CPUs
  • SYS-421GE-TNRT3 (4U) - Intel CPUs
  • AS -4125GS-TNRT (4U) - AMD CPU
  • AS -4125GS-TNRT2 (4U) - AMD CPU

Diese Supermicro , die mit NVIDIA Spectrum-X betrieben werden, reduzieren die Trainings- und Inferenzlaufzeiten von massiven transformatorbasierten generativen KI , die für schnellere Ergebnisse und Erkenntnisse aus KI unerlässlich sind.

Supermicro mit NVIDIA Spectrum-X-Netzwerktechnologie steigern nicht nur die Netzwerkleistung für KI um das 1,6-Fache, sondern profitieren auch von der Isolierung der Workload-Leistung in Multi-Tenant-Umgebungen. Für Hochleistungsanwendungen ist es entscheidend, dass Workloads Daten separat und unabhängig voneinander übertragen können, ohne durch „Noisy Neighbors“ beeinträchtigt zu werden, die die Leistung beeinträchtigen könnten. Darüber hinaus bietet die Isolierung von Netzwerk-Workloads einen zusätzlichen Sicherheitsvorteil, da sie verhindert, dass böswillige Akteure in einer Workload eine separate Workload stören. NVIDIA Spectrum-X erreicht diese verbesserte Workload-Isolierung durch sichere virtuelle private Clouds (VPCs), die jedem Mandanten zugewiesen werden.

Energieeffizienz war schon immer ein wichtiges Thema beim Betrieb von leistungsstarken KI mit hoher Leistung. Durch die Bereitstellung einer höheren Netzwerkleistung bei gleichem Stromverbrauch kann NVIDIA Spectrum-X zu einer energieeffizienteren KI beitragen. Diese bessere Leistung pro Watt führt zu einem geringeren Gesamtstromverbrauch und potenziell niedrigeren Gesamtbetriebskosten. Für Anwender, die zur Kontrolle ihrer Energiekosten häufig auf Leistungsbegrenzungen zurückgreifen, bieten Supermicro mit Spectrum-X die Gewissheit, dass die Energieverbrauchsgrenzen nicht überschritten werden.  

Verbraucher, die über standardisierte Ethernet-Netzwerke verfügen, können sicher sein, dass NVIDIA Spectrum-X vollständig auf Standards basiert und mit Ethernet-basierten Stacks vollständig kompatibel ist. Darüber hinaus helfen Supermicro mit NVIDIA Spectrum-X Kunden dabei, die größte Herausforderung bei der Bereitstellung KIzu bewältigen: die Skalierbarkeit. Mit der Fähigkeit, 256 200G-Ports in einem einzigen Switch oder 16K-Ports in einer zweistufigen Leaf/Spine-Topologie zu unterstützen, sind dies ideale Systeme für Unternehmen mit sich ständig weiterentwickelnden Anforderungen an eine beschleunigte Recheninfrastruktur.

Da Supermicro die Anforderungen von KI zu erfüllen, die nicht nur eine leistungsstarke Vernetzung, sondern auch Cloud-Multi-Tenancy benötigen, nutzen Supermicro mit NVIDIA Spectrum-X Remote Direct Memory Access (RDMA) über Converged Ethernet (RoCE)-Erweiterungen, um sowohl Leistung als auch Multi-Tenancy zu unterstützen. Die Leistung gegenüber herkömmlichem Ethernet ist erstaunlich, wie die folgende Grafik zeigt.  

Die bahnbrechende Netzwerktechnologie von NVIDIA, die in zahlreichen Supermicro zum Einsatz kommt, sorgt für eine revolutionäre Netzwerkleistung für KI, eine Isolierung der Multi-Tenant-Leistung und eine höhere Energieeffizienz. All dies wird erreicht, indem auf Ethernet-Netzwerkstandards aufgebaut und der NVIDIA Spectrum-4 Ethernet-Switch mit dem NVIDIA BlueField-3 SuperNIC gekoppelt wird. Diese Kombination trägt dazu bei, die Laufzeiten massiver generativer KI zu reduzieren. Für Kunden, die schnellere Einblicke, Multi-Tenancy und zukünftige Skalierbarkeit benötigen, sind diese Supermicro mit NVIDIA Spectrum-X ideal geeignet, um ihre Anforderungen zu erfüllen.