Supermicro

專為加速AI而生

隨著AI 從兆瓦級擴展至千兆瓦級，其重心正從模型轉移至基礎設施。三位活躍於運算、系統與國家級平台交匯領域的領袖將共同探討：當前電力、散熱、架構與部署選擇如何決定智慧系統的效能、主權與控制權。 使用者將理解：-AI 的主要瓶頸為何從演算法轉移至電力密度、散熱與延遲等實體基礎設施- 如何在不犧牲可靠性、安全性與經濟可行性前提下，部署AI - 系統架構與整合決策如何塑造AI 決定性、隔離性與信任機制- 主權AI與AI 在治理與控制層面，如何有別於傳統超大規模雲端模型

企業正從AI 邁向生產階段，在此階段，投資報酬率（ROI）與效能同樣重要。本場由Supermicro NVIDIA 聯合主辦的講座，將探討AI 、邊緣AI 以及本地部署如何協同運作，以提供可擴展且具成本效益的AI 。 我們將重點介紹由 NVIDIA RTX PRO 6000/4500Blackwell 版等 GPU 驅動的系統，如何在資料中心與邊緣環境中支援推論、視覺化及檢索增強生成 (RAG) 工作負載。 本場次亦將探討 RAG 處理流程如何透過緊密整合的 GPU、網路及儲存技術，提供低延遲且具情境感知能力的結果——協助企業提升資料掌控力、降低營運成本，並最大化AI ROI。

隨著 AI 工廠擴展以支援更大的模型和更高的叢集密度，液體冷卻已變得至關重要。本場由 Supermicro 和 NVIDIA 共同發表的議程，將探討如何使用液冷式 NVIDIA HGX 系統和 NVL72 機架級平台建構新一代 AI 工廠，為大規模 AI 訓練實現高密度、高效能的 GPU 叢集。與會者將深入了解 Supermicro 如何將這些平台部署為經過驗證的機架級解決方案，而非獨立伺服器。本議程將涵蓋關鍵的設計和部署考量，包括晶片直觸式冷卻和機架級液體整合，並展示液冷式整體解決方案如何加速上線時間，同時提升現代 AI 工廠的效能和能源效率。