Para entrenamiento e inferencia de IA a escala de nube
La demanda de computación de alto rendimiento para entrenamiento de IA/Aprendizaje Profundo (DL) se ha duplicado en tamaño cada 3,5 meses desde 2013 (según OpenAI) y se está acelerando con el creciente tamaño de los conjuntos de datos y el número de aplicaciones y servicios basados en grandes modelos de lenguaje (LLM), visión computacional, sistemas de recomendación y más.
Con el aumento de la demanda de un mayor rendimiento, rendimiento y capacidad de formación e inferencia, el sector necesita sistemas creados específicamente que ofrezcan una mayor eficiencia, menor coste, facilidad de implementación, flexibilidad para permitir la personalización y escalabilidad de los sistemas de IA. La IA se ha convertido en una tecnología esencial para diversas áreas como copilotos, asistentes virtuales, automatización de la fabricación, operaciones de vehículos autónomos e imágenes médicas, por nombrar algunas. Supermicro se ha asociado con Intel para proporcionar un sistema a escala de nube y un diseño de bastidor con los aceleradores Intel Gaudi AI.
Nueva plataforma de entrenamiento e inferencia de IA Supermicro Gaudi® 3
La nueva plataforma de entrenamiento de IA Supermicro , que ofrece nuevas opciones al mercado de la IA empresarial, se basa en los aceleradores Intel® Gaudi 3 de tercera generación, diseñados para aumentar aún más la eficiencia del entrenamiento de modelos de IA a gran escala y la inferencia de IA. Disponible en configuraciones con refrigeración por aire y por líquido, la solución X14 Gaudi 3 Supermicro se adapta fácilmente para satisfacer una amplia gama de requisitos de carga de trabajo de IA.
- GPU: 8 aceleradores Gaudí 3 HL-325L (refrigerados por aire) o HL-335 (refrigerados por líquido) en placa base OAM 2.0
- CPU: Procesadores duales Intel® Xeon® 6
- Memoria: 24 DIMM - hasta 6TB de memoria en 1DPC
- Unidades: Hasta 8 PCIe 5.0 NVMe intercambiables en caliente
- Fuentes de alimentación: 8 3000W de alta eficiencia totalmente redundantes (4+4) Nivel Titanio
- Redes: 6 puertos OSFP 800GbE integrados para escalabilidad horizontal
- Ranuras de expansión: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Cargas de trabajo: Formación e inferencia de IA
Servidor de formación de IA Supermicro Gaudi®2
Basándose en el éxito del sistema de entrenamiento de IA Supermicro original, el servidor de IA Gaudi 2 da prioridad a dos consideraciones clave: integrar aceleradores de IA con módulos de red de alta velocidad incorporados para impulsar la eficiencia operativa en el entrenamiento de modelos de IA de última generación y ofrecer a la industria de la IA las opciones que necesita.
- GPU: 8 tarjetas mezzanine Gaudi2 HL-225H
- CPU: Dos procesadores Intel® Xeon® Scalable de 3ª generación
- Memoria: 32 módulos DIMM - hasta 8 TB de memoria SDRAM ECC registrada DDR4-3200 MHz
- Unidades: hasta 24 unidades intercambiables en caliente (SATA/NVMe/SAS)
- Alimentación: 6 fuentes de alimentación totalmente redundantes de 3000 W y alta eficiencia (54 V+12 V)
- Redes: 24 enlaces SerDes PAM4 de 100 GbE (48 x 56 Gb) mediante 6 QSFP-DD
- Ranuras de expansión: 2 conmutadores PCIe 4.0
- Cargas de trabajo: Formación e inferencia de IA
Supermicro con Intel® Gaudi® 3 está optimizado para escenarios de IA del mundo real.
Supermicro nuevos Supermicro con procesadores Intel® Xeon® serie 6 con núcleos P y aceleradores Intel Gaudi 3 muestran un aumento del rendimiento con respecto a las generaciones anteriores.
Diseño de referencia del clúster acelerador de IA Supermicro Intel® Gaudi®
Aceleración y reducción del coste de las soluciones de IA con el sistema basado en el acelerador Intel® Gaudi® 3 X14 Supermicro, gracias al uso de software de código abierto y Ethernet estándar del sector.
Supermicro GAUDI 3 AI ofrece un rendimiento escalable para las necesidades de IA
Gama de soluciones optimizadas para centros de datos de cualquier tamaño y carga de trabajo Para nuevos servicios y mayor satisfacción del cliente
Los sistemas GAUDI 3 Supermicro Intel mejoran la infraestructura de IA empresarial
Sistema de IA de gran ancho de banda que utiliza procesadores Intel Xeon 6 para el entrenamiento y la inferencia eficientes de LLM y GenAI a escala empresarial
Supermicro Hyper las cargas de trabajo de IA empresarial en la plataforma VMWARE
Casos de uso de la carga de trabajo de IA computacional: Large Language Model (LLM) y reconocimiento de imágenes de IA - ResNet50 en la GPU Intel® Data Center Flex 170
Aceleración de la computación con IA gracias a Supermicro en INTEL® Developer Cloud
Los servidores Supermicro de IA Supermicro , equipados con procesadores Intel® Xeon® y aceleradores de IA Intel® Gaudi® 2, ofrecen a los desarrolladores y a las empresas un rendimiento elevado y una gran eficiencia en la computación, el entrenamiento y la inferencia de IA en la nube.
Solución superior de procesamiento y entrega de medios basada en Supermicro con Intel® Data Center GPU Flex Series
Supermicro con la serie Intel® Data Center GPU Flex
Supermicro : Nuevas soluciones de procesamiento multimedia basadas en la serie Intel Data Center GPU Flex
Vea cómo nuestros expertos en productos analizan las nuevas Supermicro basadas en la recién anunciada serie Intel Data Center GPU Flex. Descubra cómo estas soluciones pueden beneficiarle a usted y a su empresa.
Juego en la nube escalable
Supermicro con la serie Intel® Data Center GPU Flex
Supermicro todos los componentes del sistema para que los proveedores de servicios en la nube puedan crear una infraestructura de juegos en la nube ecológica, rentable y rentable.
Soluciones innovadoras para juegos en la nube, medios de comunicación, transcodificación e inferencia de inteligencia artificial
Sep 08 2022, 10:00am PDT
Los expertos en productos y soluciones Supermicro Intel debatirán, en una sesión informal, las ventajas de las soluciones en las áreas de juegos en la nube, distribución de contenidos multimedia, transcodificación e inferencia de IA utilizando las GPU Intel Flex Series recientemente anunciadas. El seminario web explicará las ventajas de las Supermicro , los servidores ideales y los beneficios de utilizar las GPU Intel Flex Series.
Sistema de entrenamiento de IA de alto rendimiento y alta eficiencia de Supermicro Habana®
Permite una relación precio/rendimiento del aprendizaje profundo hasta un 40% mejor que las soluciones tradicionales de IA