Supermicro

AIを加速するために構築

AIシステムがメガワット規模からギガワット規模へと拡大する中、AIの重心はモデルそのものからインフラへと移りつつあります。本セッションでは、コンピュート、システム設計、そして国家レベルのAIプラットフォームの最前線で活躍する3人のリーダーが登壇し、電力、冷却、アーキテクチャ、導入戦略がAIの性能、主権、そしてインテリジェンスの制御にどのような影響を与えるのかを議論します。また、最新のAIシステムにおいてボトルネックがアルゴリズムから物理インフラ（電力密度、冷却、レイテンシ）へと移行している理由を解説するとともに、信頼性・セキュリティ・経済性を維持しながらギガワット規模のAIインフラを展開するための要件を探ります。さらに、システムアーキテクチャや統合設計が大規模AI環境における決定性、分離性、信頼性にどのように影響するのか、そしてソブリンAIやエンタープライズAIの導入が、従来のハイパースケールクラウドモデルとどのように異なるのかについても理解を深めていただきます。

企業はAIの実験段階から本番運用フェーズへと移行しており、性能だけでなくROI（投資対効果）も重要な指標となっています。本セッションでは、SupermicroとNVIDIAが、AIファクトリー、エッジAI、オンプレミス環境を組み合わせることで、どのようにスケーラブルでコスト効率の高いAIソリューションを実現できるのかを紹介します。また、NVIDIA RTX PRO 6000 / 4500 Blackwell Server EditionなどのGPUを搭載したシステムが、データセンターからエッジ環境まで、推論、可視化、Retrieval-Augmented Generation（RAG）ワークロードをどのように支えているのかを解説します。さらに、GPU、ネットワーク、ストレージを密接に統合したRAGパイプラインが、低レイテンシかつコンテキストを理解したAI応答を実現し、企業のデータ管理の強化、運用コストの削減、AI投資のROI最大化にどのように貢献するのかを紹介します。

より大規模なモデルと高密度クラスターを支えるため、AIファクトリーの冷却技術は液冷へと進化しています。本セッションでは、SupermicroとNVIDIAが、液冷対応NVIDIA HGXシステムおよびNVL72ラックスケールプラットフォームを活用した次世代AIファクトリーの構築について解説します。これにより、高密度かつ高性能なGPUクラスターによる大規模AIトレーニングが可能になります。また、Supermicroがこれらのプラットフォームを単体サーバーではなく、検証済みのラックスケールソリューションとして導入しているアプローチについても紹介します。セッションでは、Direct-to-Chip冷却やラックレベルの液冷統合などの設計・導入のポイントを解説するとともに、液冷によるトータルソリューションがAIファクトリーのTime-to-Onlineを短縮し、性能とエネルギー効率を向上させる仕組みを紹介します。