クラウド スケールAIトレーニング と 推論
ハイパフォーマンス AI/深層学習（DL）トレーニングのコンピューティング能力需要は、2013年以降、3.5ヶ月ごとに倍増しており（OpenAIによる）、データセットの規模拡大や、大規模言語モデル（LLM）、コンピュータビジョン、レコメンデーションシステムなどに基づくアプリケーションやサービスの増加に伴い、その成長は加速しています。
需要の増加に伴い、トレーニング そして推論 性能、スループット、容量といった面で、業界は効率性の向上、コスト削減、導入の容易さ、カスタマイズを可能にする柔軟性、そしてAIシステムの拡張性を備えた専用システムを必要としています。AIは、コパイロット、仮想アシスタント、製造自動化、自動運転車、医療画像処理など、さまざまな分野で不可欠な技術となっています。SupermicroはIntelと提携し、インテル Gaudi AIアクセラレータを搭載したクラウド規模のシステムとラック設計を提供しています。
Supermicro X14 Gaudi® 3 AI トレーニング と 推論 プラットフォーム
エンタープライズAI市場に新たな選択肢をもたらす、Supermicroの新しい X14 AIトレーニングプラットフォームは、第3世代 インテル® Gaudi 3 AI アクセラレータを搭載し、大規模なAIモデルトレーニングとAI推論の効率を向上させるように設計されています。空冷式と液冷式の両方の構成で利用可能な Supermicro X14 Gaudi 3 ソリューションは、幅広いAIワークロード要件に合わせて容易に拡張できます。
- GPU: OAM 2.0ベースボード上に8基のGaudi 3 HL-325L（空冷式）または HL-335（液冷式）アクセラレータを搭載。
- CPU: デュアル インテル® Xeon® 6 プロセッサー
- メモリー: 24 DIMM - 最大6TBメモリー (1DPC)
- ドライブ: 8x ホットスワップ対応 PCIe 5.0 NVMe ドライブ
- 電源: 8つの3000W高効率完全冗長構成（4+4）チタニウムレベル
- ネットワーク: 拡張性を考慮した6つのオンボードOSFP 800GbEポート
- 拡張スロット: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- ワークロード: AIトレーニング と 推論
Supermicro Gaudi®2 AIトレーニング サーバー
初代 Supermicro Gaudi AIトレーニングシステムの成功を基盤として、Gaudi 2 AIサーバーは2つの重要な点を優先しています。1つは、最先端のAIモデルのトレーニングにおける運用効率を高めるため、AIアクセラレータと内蔵の高速ネットワークモジュールの統合、もう1つは、AI業界が必要としている選択肢を提供することです。
- GPU: Gaudi2 HL-225H メザニンカード 8枚
- CPU: デュアル第3世代Intel® Xeon® スケーラブル・プロセッサー
- メモリー: 32 DIMMスロット - 最大8TBのレジスタードECC DDR4-3200MHz SDRAM
- ドライブ: 24x ホットスワップ SATA/SAS/NVMeドライブベイ
- 電源: 6つの3000W 高効率（54V+12V）完全冗長電源
- ネットワーク: 6x QSFP-DD による 24x 100GbE（48 x 56Gb）PAM4 SerDesリンク
- 拡張スロット: 2x PCIe 4.0スイッチ
- ワークロード: AIトレーニング と 推論
Supermicro TECHTalk：インテルデータセンターGPU Flexシリーズをベースとした新しいメディア処理ソリューション
