クラウドスケールのAIトレーニングと推論
高性能なAI/ディープラーニング（DL）トレーニング用コンピュートに対する需要は、2013年以降、3.5カ月ごとに倍増しており（OpenAI調べ）、データセットのサイズの増大や、大規模言語モデル（LLM）、コンピュータビジョン、レコメンデーションシステムなどに基づくアプリケーションやサービスの増加に伴い、加速しています。
トレーニングおよび推論のパフォーマンス、スループット、容量に対する需要の高まりに伴い、業界は、効率の向上、コスト削減、実装の容易さ、カスタマイズを可能にする柔軟性、およびAIシステムのスケーリングを提供する専用システムを必要としています。AIは、コパイロット、バーチャルアシスタント、製造自動化、自動運転、医療画像処理など、多岐にわたる分野で不可欠なテクノロジーとなっています。SupermicroはIntelと提携し、Intel Gaudi AI Acceleratorsを搭載したクラウドスケールシステムおよびラック設計を提供しています。
新しい Supermicro X14 Gaudi® 3 AI トレーニングおよび推論プラットフォーム
エンタープライズAI市場に選択肢をもたらす新しいSupermicro X14 AIトレーニングプラットフォームは、第3世代Intel® Gaudi 3アクセラレーターをベースとしており、大規模AIモデルのトレーニングとAI推論の効率をさらに向上させるように設計されています。空冷および液冷の両方の構成で利用可能であり、SupermicroのX14 Gaudi 3ソリューションは、幅広いAIワークロード要件に容易に対応できます。
- GPUOAM 2.0ベースボード上の8つのGaudi 3 HL-325L（空冷）またはHL-335（液冷）アクセラレータ
- CPUデュアル インテル® Xeon® 6 プロセッサー
- メモリ：24 DIMM - 1DPCで最大6TBメモリ
- ドライブ最大8台のホットスワップPCIe 5.0 NVMe
- 電源8 3000W 高効率完全冗長化 (4+4) チタニウムレベル
- ネットワーキング: 6個のオンボードOSFP 800GbEポート（スケールアウト用
- 拡張スロット: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- ワークロードAIのトレーニングと推論
Supermicro Gaudi®2 AI トレーニングサーバー
オリジナルのSupermicro Gaudi AIトレーニングシステムの成功を基盤として、Gaudi 2 AIサーバーは2つの主要な考慮事項を優先します。最先端のAIモデルをトレーニングするための運用効率を向上させるために、AIアクセラレーターと内蔵高速ネットワークモジュールを統合すること、そしてAI業界に必要な選択肢をもたらすことです。
- GPU8枚のGaudi2 HL-225Hメザニンカード
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー
- メモリ32 DIMM - 最大8TB登録ECC DDR4-3200MHz SDRAM
- ドライブ：最大24台のホットスワップ対応ドライブ（SAS）
- 電源: 6x 3000W 高効率(54V+12V)完全冗長電源
- ネットワーキング: 6個のQSFP-DDによる24 x 100GbE (48 x 56Gb) PAM4 SerDesリンク
- 拡張スロット：2x PCIe 4.0スイッチ
- ワークロードAIのトレーニングと推論
SupermicroとGaudi® 3を搭載したIntel® Xeon®は、優れた性能を発揮します。
SupermicroとIntel®は提携し、Intel® Xeon® 6とIntel® Gaudi® 3を活用した、スケーラブルで費用対効果の高いLLM推論向けのハイブリッドCPU+GPUアーキテクチャを提供します。
Intel® Gaudi® 3を搭載したSupermicroサーバーは、実世界のAIシナリオ向けに最適化されています
Pコアを搭載したIntel® Xeon® 6シリーズ・プロセッサーとIntel Gaudi 3アクセラレーターを搭載した新しいSupermicroサーバーは、前世代と比較して性能向上を示します。
Supermicro X14 Intel® Gaudi® AIアクセラレータークラスター リファレンスデザイン
オープンソースソフトウェアと業界標準イーサネットに基づいて構築されたSupermicroのX14 Intel® Gaudi® 3アクセラレーターベースシステムにより、AIソリューションのコストを加速し、削減します。
GAUDI 3 AIを搭載したSupermicroがAI要件向けにスケーラブルなパフォーマンスを提供
あらゆる規模とワークロードのデータセンターに最適化された幅広いソリューション 新サービスと顧客満足度の向上を実現
Supermicro と Intel GAUDI 3 システムがエンタープライズAIインフラストラクチャを進化させる
IntelXeon 6プロセッサーを使用した高帯域幅AIシステムにより、エンタープライズ規模での効率的なLLMとGenAIのトレーニングと推論を実現
Supermicro X13 Hyperは、VMWAREプラットフォーム上でエンタープライズAIワークロードを強化します。
計算AIワークロードのユースケース：大規模言語モデル（LLM）とAI画像認識 - インテル® Data Center Flex 170 GPU上のResNet50
INTEL® Developer CloudにおけるSupermicroサーバーによるAIコンピューティングの加速。
Intel® Xeon® プロセッサーおよびIntel® Gaudi® 2 AIアクセラレーターを搭載したSupermicroアドバンストAIサーバーは、開発者および企業に高性能、高効率のAIクラウドコンピューティング、トレーニング、および推論を提供します。
Supermicro とインテル® データセンターGPU Flexシリーズを基盤とした優れたメディア処理および配信ソリューション
Intel® Data Center GPU Flex Series搭載Supermicro システム
Supermicro TECHTalk: Intel Data Center GPU Flexシリーズをベースにした新しいメディア処理ソリューション
当社の製品エキスパートが、発表されたばかりのIntel Data Center GPU Flex Seriesに基づいた新しいSupermicroソリューションについて議論する様子をご覧ください。これらのソリューションがお客様と貴社にどのように役立つかをご覧ください。
スケーラブルなクラウドゲーミングの実現
Intel® Data Center GPU Flex Series搭載Supermicro システム
Supermicroは、クラウドサービスプロバイダーがグリーンで費用対効果が高く、収益性の高いクラウドゲーミングインフラストラクチャを構築するための、すべてのシステムコンポーネントを提供します。
クラウドゲーム、メディア、トランスコーディング、AI推論のための革新的なソリューション
2022年09月08日 10時00分PDT
Supermicro と Intel の製品およびソリューションの専門家が、非公式セッションで、最近発表された Intel Flex Series GPU を使用したクラウドゲーミング、メディア配信、トランスコーディング、AI推論の分野におけるソリューションの利点について議論します。このウェビナーでは、Supermicro ソリューションの利点、理想的なサーバー、および Intel Flex Series GPU を使用するメリットについて説明します。
Supermicro と Habana® の高性能・高効率 AI トレーニングシステム
ディープラーニングのトレーニングにおいて、従来のAIソリューションよりも最大40%優れた価格/パフォーマンスを実現