Servidores de Medios en la Nube e IA con GPU Intel®

Soluciones de alta eficiencia optimizadas para el aprendizaje profundo con los aceleradores Intel Gaudi AI

Para entrenamiento e inferencia de IA a escala de nube

La demanda de computación de alto rendimiento para entrenamiento de IA/Aprendizaje Profundo (DL) se ha duplicado en tamaño cada 3,5 meses desde 2013 (según OpenAI) y se está acelerando con el creciente tamaño de los conjuntos de datos y el número de aplicaciones y servicios basados en grandes modelos de lenguaje (LLM), visión computacional, sistemas de recomendación y más.

Con el aumento de la demanda de un mayor rendimiento, rendimiento y capacidad de formación e inferencia, el sector necesita sistemas creados específicamente que ofrezcan una mayor eficiencia, menor coste, facilidad de implementación, flexibilidad para permitir la personalización y escalabilidad de los sistemas de IA. La IA se ha convertido en una tecnología esencial para diversas áreas como copilotos, asistentes virtuales, automatización de la fabricación, operaciones de vehículos autónomos e imágenes médicas, por nombrar algunas. Supermicro se ha asociado con Intel para proporcionar un sistema a escala de nube y un diseño de bastidor con los aceleradores Intel Gaudi AI.

Supermicro Sistema de entrenamiento de IA Intel® Gaudi® 3 8U SYS-822GA-NGR3

Nueva plataforma Supermicro X14 Gaudi® 3 para entrenamiento e inferencia de IA.

Aportando opciones al mercado de IA empresarial, la nueva plataforma de entrenamiento de IA Supermicro X14 está construida sobre los aceleradores Intel® Gaudi 3 de tercera generación, diseñados para aumentar aún más la eficiencia del entrenamiento de modelos de IA a gran escala y la inferencia de IA. Disponible en configuraciones refrigeradas por aire y por líquido, la solución X14 Gaudi 3 de Supermicro se escala fácilmente para satisfacer una amplia gama de requisitos de carga de trabajo de IA.

GPU: 8 aceleradores Gaudí 3 HL-325L (refrigerados por aire) o HL-335 (refrigerados por líquido) en placa base OAM 2.0
CPU: Procesadores duales Intel® Xeon® 6
Memoria: 24 DIMM - hasta 6TB de memoria en 1DPC
Unidades: Hasta 8 PCIe 5.0 NVMe intercambiables en caliente
Fuentes de alimentación: 8 3000W de alta eficiencia totalmente redundantes (4+4) Nivel Titanio
Redes: 6 puertos OSFP 800GbE integrados para escalabilidad horizontal
Ranuras de expansión: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
Cargas de trabajo: Formación e inferencia de IA

Producto destacado: SYS-822GA-NGR3

Obtenga más información

Servidor de formación de IA Supermicro Gaudi®2

Basándose en el éxito del sistema original de entrenamiento de IA Supermicro Gaudi, el servidor de IA Gaudi 2 prioriza dos consideraciones clave: la integración de aceleradores de IA con módulos de red de alta velocidad incorporados para impulsar la eficiencia operativa en el entrenamiento de modelos de IA de vanguardia y ofreciendo a la industria de la IA la elección que necesita.

GPU: 8 tarjetas mezzanine Gaudi2 HL-225H
CPU: Dos procesadores Intel® Xeon® Scalable de 3ª generación
Memoria: 32 módulos DIMM - hasta 8 TB de memoria SDRAM ECC registrada DDR4-3200 MHz
Unidades: hasta 24 unidades intercambiables en caliente (SATA/NVMe/SAS)
Alimentación: 6 fuentes de alimentación totalmente redundantes de 3000 W y alta eficiencia (54 V+12 V)
Redes: 24 enlaces SerDes PAM4 de 100 GbE (48 x 56 Gb) mediante 6 QSFP-DD
Ranuras de expansión: 2 conmutadores PCIe 4.0
Cargas de trabajo: Formación e inferencia de IA

Producto destacado: SYS-820GH-TNR2

Obtenga más información

Grupo de Sistemas Intel para IA en el borde

Rendimiento y eficiencia de la IA en el borde: con tecnología de Intel

Aproveche las ventajas de una IA periférica potente y energéticamente eficiente gracias a las soluciones de sistemas diseñadas específicamente por Intel y Supermicro. La gama de productos Supermicroincluye una amplia selección de CPU y GPU avanzadas que ofrecen resultados de IA de alto rendimiento y baja latencia en entornos remotos y con limitaciones de espacio, lo que ayuda a las empresas a ampliar sus aplicaciones basadas en datos con total confianza.

Optimice el rendimiento con arquitecturas integradas de CPU, GPU y NPU
Ejecute la inferencia de IA más rápidamente con OpenVINO
Implemente una IA fiable y eficiente desde el punto de vista energético en sectores como el comercio minorista, la sanidad y la industria manufacturera

Obtenga más información

Recursos