クラウドスケールのAIトレーニングと推論
高性能なAI/ディープラーニング（DL）トレーニング用コンピュートに対する需要は、2013年以降、3.5カ月ごとに倍増しており（OpenAI調べ）、データセットのサイズの増大や、大規模言語モデル（LLM）、コンピュータビジョン、レコメンデーションシステムなどに基づくアプリケーションやサービスの増加に伴い、加速しています。
トレーニングおよび推論のパフォーマンス、スループット、容量に対する需要の高まりに伴い、業界は、効率の向上、コスト削減、実装の容易さ、カスタマイズを可能にする柔軟性、およびAIシステムのスケーリングを提供する専用システムを必要としています。AIは、コパイロット、バーチャルアシスタント、製造自動化、自動運転、医療画像処理など、多岐にわたる分野で不可欠なテクノロジーとなっています。SupermicroはIntelと提携し、Intel Gaudi AI Acceleratorsを搭載したクラウドスケールシステムおよびラック設計を提供しています。
新しい Supermicro X14 Gaudi® 3 AI トレーニングおよび推論プラットフォーム
エンタープライズAI市場に選択肢をもたらす新しいSupermicro X14 AIトレーニングプラットフォームは、第3世代Intel® Gaudi 3アクセラレーターをベースとしており、大規模AIモデルのトレーニングとAI推論の効率をさらに向上させるように設計されています。空冷および液冷の両方の構成で利用可能であり、SupermicroのX14 Gaudi 3ソリューションは、幅広いAIワークロード要件に容易に対応できます。
- GPUOAM 2.0ベースボード上の8つのGaudi 3 HL-325L（空冷）またはHL-335（液冷）アクセラレータ
- CPUデュアル インテル® Xeon® 6 プロセッサー
- メモリ：24 DIMM - 1DPCで最大6TBメモリ
- ドライブ最大8台のホットスワップPCIe 5.0 NVMe
- 電源8 3000W 高効率完全冗長化 (4+4) チタニウムレベル
- ネットワーキング: 6個のオンボードOSFP 800GbEポート（スケールアウト用
- 拡張スロット: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- ワークロードAIのトレーニングと推論
Supermicro Gaudi®2 AI トレーニングサーバー
オリジナルのSupermicro Gaudi AIトレーニングシステムの成功を基盤として、Gaudi 2 AIサーバーは2つの主要な考慮事項を優先します。最先端のAIモデルをトレーニングするための運用効率を向上させるために、AIアクセラレーターと内蔵高速ネットワークモジュールを統合すること、そしてAI業界に必要な選択肢をもたらすことです。
- GPU8枚のGaudi2 HL-225Hメザニンカード
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー
- メモリ32 DIMM - 最大8TB登録ECC DDR4-3200MHz SDRAM
- ドライブ：最大24台のホットスワップ対応ドライブ（SAS）
- 電源: 6x 3000W 高効率(54V+12V)完全冗長電源
- ネットワーキング: 6個のQSFP-DDによる24 x 100GbE (48 x 56Gb) PAM4 SerDesリンク
- 拡張スロット：2x PCIe 4.0スイッチ
- ワークロードAIのトレーニングと推論
Supermicro TECHTalk: Intel Data Center GPU Flexシリーズをベースにした新しいメディア処理ソリューション
