Beschleunigte Building Blocks mit Intel-GPUs

Supermicro
Entwickelt zur Beschleunigung

Für KI und -Inferenz im Cloud-Maßstab
Die Nachfrage nach hochleistungsfähigen KI Learning (DL)-Trainingscomputern hat sich laut OpenAI seit 2013 alle 3,5 Monate verdoppelt und steigt mit der wachsenden Größe der Datensätze und der Anzahl der Anwendungen und Dienste, die auf großen Sprachmodellen (LLMs), Computer Vision, Empfehlungssystemen und mehr basieren.
Angesichts der gestiegenen Nachfrage nach höherer Trainings- und Inferenzleistung, Durchsatz und Kapazität benötigt die Industrie zweckgebundene Systeme, die eine höhere Effizienz, geringere Kosten, einfache Implementierung, Flexibilität zur Anpassung und Skalierung von KI-Systemen bieten. KI ist zu einer unverzichtbaren Technologie für vielfältige Bereiche wie Copiloten, virtuelle Assistenten, Fertigungsautomatisierung, autonome Fahrzeugoperationen und medizinische Bildgebung geworden, um nur einige zu nennen. Supermicro hat sich mit Intel zusammengetan, um Cloud-Scale-System- und Rack-Designs mit Intel Gaudi KI-Beschleunigern anzubieten.

Neue Supermicro X14 Gaudi® 3 KI-Trainings- und Inferenzplattform
Um dem Enterprise-KI-Markt mehr Auswahl zu bieten, basiert die neue Supermicro X14 KI-Trainingsplattform auf den Intel® Gaudi 3 Beschleunigern der dritten Generation, die darauf ausgelegt sind, die Effizienz des großskaligen KI-Modelltrainings und der KI-Inferenz weiter zu steigern. Verfügbar in luftgekühlten und flüssigkeitsgekühlten Konfigurationen, skaliert die Supermicro X14 Gaudi 3 Lösung problemlos, um eine Vielzahl von KI-Workload-Anforderungen zu erfüllen.
- GPU: 8 Gaudi 3 HL-325L (luftgekühlt) oder HL-335 (flüssigkeitsgekühlt) Beschleuniger auf OAM 2.0 Baseboard
- CPU: Zwei Intel® Xeon® 6 Prozessoren
- Speicher: 24 DIMMs - bis zu 6 TB Speicher in 1DPC
- Laufwerke: Bis zu 8 hot-swap PCIe 5.0 NVMe
- Stromversorgungen: 8 3000W hocheffiziente, voll redundante (4+4) Titanium Level
- Netzwerk: 6 integrierte OSFP 800GbE-Ports für Scale-out
- Erweiterungssteckplätze: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Arbeitsbelastungen: KI und Inferenz
Supermicro Gaudi®2 KI-Trainingsserver
Aufbauend auf dem Erfolg des ursprünglichen Supermicro Gaudi KI-Trainingssystems, priorisiert der Gaudi 2 KI-Server zwei wesentliche Aspekte: die Integration von KI-Beschleunigern mit integrierten Hochgeschwindigkeits-Netzwerkmodulen zur Steigerung der Betriebseffizienz beim Training modernster KI-Modelle und der KI-Branche die benötigte Auswahl zu bieten.
- GPU: 8 Gaudi2 HL-225H Mezzanine-Karten
- CPU: Zwei Intel® Xeon® Prozessoren der 3. Generation, skalierbar
- Speicher: 32 DIMMs - bis zu 8TB registrierter ECC DDR4-3200MHz SDRAM
- Laufwerke: bis zu 24 Hot-Swap-fähige Laufwerke (SAS)
- Leistung: 6x 3000W Hocheffiziente (54V+12V) voll-redundante Netzteile
- Vernetzung: 24x 100GbE (48 x 56Gb) PAM4 SerDes Links durch 6 QSFP-DDs
- Erweiterungssteckplätze: 2x PCIe 4.0-Switches
- Arbeitsbelastungen: KI und Inferenz
KI und Effizienz am Netzwerkrand – mit Technologie von Intel
Nutzen Sie leistungsstarke, energieeffiziente KI speziell entwickelten Systemlösungen von Intel und Supermicro. Das Portfolio Supermicroumfasst eine breite Palette fortschrittlicher CPUs und GPUs, die auch in Umgebungen mit begrenztem Platzangebot und an abgelegenen Standorten hochleistungsfähige KI mit geringer Latenz liefern und Unternehmen dabei unterstützen, datengesteuerte Anwendungen zuverlässig zu skalieren.
- Optimieren Sie die Leistung mit integrierten CPU-, GPU- und NPU-Architekturen
- Schnellere KI mit OpenVINO
- Setzen Sie zuverlässige, energieeffiziente KI Branchen wie dem Einzelhandel, dem Gesundheitswesen und der Fertigungsindustrie ein