Para entrenamiento e inferencia de IA a escala de nube
La demanda de computación de alto rendimiento para entrenamiento de IA/Aprendizaje Profundo (DL) se ha duplicado en tamaño cada 3,5 meses desde 2013 (según OpenAI) y se está acelerando con el creciente tamaño de los conjuntos de datos y el número de aplicaciones y servicios basados en grandes modelos de lenguaje (LLM), visión computacional, sistemas de recomendación y más.
Con el aumento de la demanda de un mayor rendimiento, rendimiento y capacidad de formación e inferencia, el sector necesita sistemas creados específicamente que ofrezcan una mayor eficiencia, menor coste, facilidad de implementación, flexibilidad para permitir la personalización y escalabilidad de los sistemas de IA. La IA se ha convertido en una tecnología esencial para diversas áreas como copilotos, asistentes virtuales, automatización de la fabricación, operaciones de vehículos autónomos e imágenes médicas, por nombrar algunas. Supermicro se ha asociado con Intel para proporcionar un sistema a escala de nube y un diseño de bastidor con los aceleradores Intel Gaudi AI.
Nueva plataforma Supermicro X14 Gaudi® 3 para entrenamiento e inferencia de IA.
Aportando opciones al mercado de IA empresarial, la nueva plataforma de entrenamiento de IA Supermicro X14 está construida sobre los aceleradores Intel® Gaudi 3 de tercera generación, diseñados para aumentar aún más la eficiencia del entrenamiento de modelos de IA a gran escala y la inferencia de IA. Disponible en configuraciones refrigeradas por aire y por líquido, la solución X14 Gaudi 3 de Supermicro se escala fácilmente para satisfacer una amplia gama de requisitos de carga de trabajo de IA.
- GPU: 8 aceleradores Gaudí 3 HL-325L (refrigerados por aire) o HL-335 (refrigerados por líquido) en placa base OAM 2.0
- CPU: Procesadores duales Intel® Xeon® 6
- Memoria: 24 DIMM - hasta 6TB de memoria en 1DPC
- Unidades: Hasta 8 PCIe 5.0 NVMe intercambiables en caliente
- Fuentes de alimentación: 8 3000W de alta eficiencia totalmente redundantes (4+4) Nivel Titanio
- Redes: 6 puertos OSFP 800GbE integrados para escalabilidad horizontal
- Ranuras de expansión: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Cargas de trabajo: Formación e inferencia de IA
Servidor de formación de IA Supermicro Gaudi®2
Basándose en el éxito del sistema original de entrenamiento de IA Supermicro Gaudi, el servidor de IA Gaudi 2 prioriza dos consideraciones clave: la integración de aceleradores de IA con módulos de red de alta velocidad incorporados para impulsar la eficiencia operativa en el entrenamiento de modelos de IA de vanguardia y ofreciendo a la industria de la IA la elección que necesita.
- GPU: 8 tarjetas mezzanine Gaudi2 HL-225H
- CPU: Dos procesadores Intel® Xeon® Scalable de 3ª generación
- Memoria: 32 módulos DIMM - hasta 8 TB de memoria SDRAM ECC registrada DDR4-3200 MHz
- Unidades: hasta 24 unidades intercambiables en caliente (SATA/NVMe/SAS)
- Alimentación: 6 fuentes de alimentación totalmente redundantes de 3000 W y alta eficiencia (54 V+12 V)
- Redes: 24 enlaces SerDes PAM4 de 100 GbE (48 x 56 Gb) mediante 6 QSFP-DD
- Ranuras de expansión: 2 conmutadores PCIe 4.0
- Cargas de trabajo: Formación e inferencia de IA
Aceleración de la IA en el borde
Rendimiento y eficiencia de la IA en el «Intelligent Edge», con tecnología de Intel
Supermicro e Intel® Xeon® con Gaudi® 3 muestran un rendimiento notable
Supermicro e Intel® se asocian para ofrecer una arquitectura híbrida CPU+GPU para inferencia de LLM escalable y rentable, utilizando Intel® Xeon® 6 e Intel® Gaudi® 3.
Servidor Supermicro con Intel® Gaudi® 3 optimizado para escenarios de IA del mundo real
Nuevos servidores Supermicro con procesadores Intel® Xeon® serie 6 con P-Cores y aceleradores Intel Gaudi 3 demuestran mejoras de rendimiento respecto a generaciones anteriores.
Diseño de referencia de clúster de aceleradores de IA Intel® Gaudi® Supermicro X14
Acelerando y Reduciendo el Costo de las Soluciones de IA con el Sistema Basado en el Acelerador Intel® Gaudi® 3 X14 de Supermicro, Mediante el Uso de Software de Código Abierto y Ethernet Estándar de la Industria
Supermicro con GAUDI 3 AI Ofrece Rendimiento Escalable para Requisitos de IA
Gama de soluciones optimizadas para centros de datos de cualquier tamaño y carga de trabajo Para nuevos servicios y mayor satisfacción del cliente
Supermicro y los sistemas Intel GAUDI 3 impulsan la infraestructura de IA empresarial
Sistema de IA de gran ancho de banda que utiliza procesadores Intel Xeon 6 para el entrenamiento y la inferencia eficientes de LLM y GenAI a escala empresarial
Supermicro X13 Hyper potencia las cargas de trabajo de IA empresariales en la plataforma VMWARE
Casos de uso de la carga de trabajo de IA computacional: Large Language Model (LLM) y reconocimiento de imágenes de IA - ResNet50 en la GPU Intel® Data Center Flex 170
Acelerando el Cómputo de IA con Servidores Supermicro en la Nube para Desarrolladores INTEL®
Los servidores de IA avanzados de Supermicro, con procesadores Intel® Xeon® y aceleradores de IA Intel® Gaudi® 2, ofrecen computación en la nube de IA de alto rendimiento y alta eficiencia, entrenamiento e inferencia a desarrolladores y empresas
Solución superior de procesamiento y entrega de medios basada en servidores Supermicro con GPU Intel® Data Center Flex Series
Sistemas Supermicro con GPU Intel® Data Center Flex Series
Supermicro TECHTalk: Nuevas soluciones de procesamiento de medios basadas en la serie Intel Data Center GPU Flex
Vea cómo nuestros expertos en productos debaten sobre las nuevas soluciones de Supermicro basadas en la recién anunciada serie Intel Data Center GPU Flex. Descubra cómo estas soluciones pueden beneficiarle a usted y a su empresa.
Juego en la nube escalable
Sistemas Supermicro con GPU Intel® Data Center Flex Series
Supermicro ofrece todos los componentes del sistema para que los proveedores de servicios en la nube construyan una infraestructura de juegos en la nube ecológica, rentable y lucrativa.
Soluciones innovadoras para juegos en la nube, medios de comunicación, transcodificación e inferencia de inteligencia artificial
Sep 08 2022, 10:00am PDT
Expertos en productos y soluciones de Supermicro e Intel discutirán, en una sesión informal, los beneficios de las soluciones en las áreas de Cloud Gaming, entrega de medios, transcodificación e inferencia de IA utilizando las GPU Intel Flex Series recientemente anunciadas. El seminario web explicará las ventajas de las soluciones Supermicro, los servidores ideales y los beneficios de usar las GPU Intel Flex Series.
Supermicro y Habana®: Sistema de entrenamiento de IA de alto rendimiento y alta eficiencia
Permite una relación precio/rendimiento del aprendizaje profundo hasta un 40% mejor que las soluciones tradicionales de IA