Supermicro

Entwickelt, um KI zu beschleunigen

Da KI von Megawatt auf Gigawatt skalieren, verlagert sich der Schwerpunkt von Modellen auf die Infrastruktur. Begleiten Sie drei führende Persönlichkeiten aus den Bereichen Computing, Systeme und nationale Plattformen bei ihrer Untersuchung, wie Entscheidungen in Bezug auf Stromversorgung, Kühlung, Architektur und Bereitstellung heute die Leistung, Souveränität und Kontrolle von Intelligenz bestimmen. Die Teilnehmer erfahren, warum sich die primären Engpässe in fortschrittlichen KI von Algorithmen zu physischer Infrastruktur, einschließlich Leistungsdichte, Kühlung und Latenz, verlagert haben. Sie lernen, was erforderlich ist, um KI im Gigawatt-Maßstab einzusetzen, ohne dabei Kompromisse bei Zuverlässigkeit, Sicherheit oder Wirtschaftlichkeit einzugehen. Sie erkunden, wie Systemarchitektur und Integrationsentscheidungen Determinismus, Isolation und Vertrauen in groß angelegten KI beeinflussen, und gewinnen Einblicke, wie sich souveräne und unternehmensinterne KI in Bezug auf Governance und Kontrolle von traditionellen Hyperscale-Cloud-Modellen unterscheiden.

Unternehmen gehen von KI zur Produktion über, wo der ROI genauso wichtig ist wie die Leistung. In dieser von Supermicro NVIDIA präsentierten Sitzung wird untersucht, wie KI , KI und lokale Bereitstellungen zusammenwirken, um skalierbare, kostengünstige KI zu liefern. Wir zeigen, wie Systeme mit GPUs wie der NVIDIA RTX PRO 6000/4500 Blackwell Server Edition Inferenz-, Visualisierungs- und RAG-Workloads (Retrieval-Augmented Generation) in Rechenzentren und Edge-Umgebungen unterstützen. Die Sitzung untersucht auch, wie RAG-Pipelines von eng integrierten GPUs, Netzwerken und Speichern profitieren, um kontextbezogene Ergebnisse mit geringer Latenz zu liefern – und so Unternehmen dabei zu helfen, die Datenkontrolle zu verbessern, die Betriebskosten zu senken und den ROI von KI zu maximieren.

Da KI immer größer werden, um größere Modelle und höhere Clusterdichten zu unterstützen, ist Flüssigkeitskühlung unverzichtbar geworden. In dieser von Supermicro NVIDIA präsentierten Sitzung wird erläutert, wie KI der nächsten Generation mit flüssigkeitsgekühlten NVIDIA HGX-Systemen und NVL72-Rack-Scale-Plattformen aufgebaut werden, die dichte, leistungsstarke GPU-Cluster für groß angelegtes KI ermöglichen. Die Teilnehmer erhalten Einblicke in den Einsatz dieser Plattformen Supermicro als validierte Rack-Scale-Lösungen anstelle von eigenständigen Servern. Die Sitzung behandelt wichtige Aspekte der Konzeption und Bereitstellung, darunter die direkte Kühlung der Chips und die Integration der Flüssigkeitskühlung auf Rack-Ebene, und zeigt, wie flüssigkeitsgekühlte Komplettlösungen die Zeit bis zur Inbetriebnahme verkürzen und gleichzeitig die Leistung und Energieeffizienz moderner KI verbessern.