Diseñado para acelerar el desarrollo y la implantación de aplicaciones con una infraestructura escalable y ágil
Los sistemas Supermicro NGC-Ready están validados para la funcionalidad y el rendimiento del software de IA de NVIDIA NGC. Estos sistemas, junto con NVIDIA NGC, permiten a los clientes desarrollar e implementar soluciones de IA de extremo a extremo. Los sistemas vienen preinstalados con el sistema operativo, el contenedor y el entorno CUDA necesarios para ejecutar el software NVIDIA NGC. Supermicro ofrece la instalación del software NVIDIA NGC como un servicio adicional. El soporte de nivel empresarial para el hardware y el sistema operativo está disponible para ayudar a los administradores de sistemas a minimizar el tiempo de inactividad del sistema, brindando a los usuarios la confianza para soportar cargas de trabajo de IA.
Impulsados por NVIDIA V100 y T4, los sistemas Supermicro NGC-Ready proporcionan aceleraciones tanto para el entrenamiento como para la inferencia. El software NVIDIA NGC se entrega como contenedores Docker, por lo que pueden ejecutarse en cualquier lugar donde se implementen los sistemas Supermicro NGC-Ready:
- en centros de datos o en la nube
- en microcentros de datos periféricos
- en ubicaciones remotas distribuidas como servidores EGX resistentes al entorno y seguros
Con el respaldo de 26 años de experiencia en la entrega de soluciones informáticas de vanguardia, los sistemas Supermicro son las soluciones de servidor más eficientes energéticamente, de mayor rendimiento y de mayor valor en el mercado actual. Con soporte para redes y almacenamiento ultra-rápidos, así como para las GPU NVIDIA V100 y T4, los sistemas Supermicro NGC-Ready son los servidores más escalables y fiables para soportar la IA. Los clientes pueden ejecutar sus infraestructuras de IA con confianza.
NVIDIA NGC
NGC es el centro de NVIDIA para contenedores de aplicaciones de IA, ML y HPC aceleradas en la GPU, SDK y herramientas que proporciona un acceso más rápido a software optimizado para el rendimiento.
El registro de contenedores NGC aloja contenedores para el software líder en IA y ciencia de datos — todos ajustados, probados y optimizados por NVIDIA — así como contenedores completamente probados para aplicaciones HPC y análisis de datos. Estos contenedores aprovechan las GPU NVIDIA tanto en las instalaciones como en la nube. Cada uno está completamente optimizado y funciona en una amplia variedad de soluciones de servidores Supermicro con GPU NVIDIA.
NVIDIA NGC también alberga modelos preentrenados para ayudar a los científicos de datos a crear modelos de alta precisión con mayor rapidez y ofrece SDK específicos para cada sector que simplifican el desarrollo de soluciones de IA integrales con entrenamiento e inferencia.
NVIDIA es líder en aceleradores de GPU de alto rendimiento y software para el desarrollo y la implantación de aplicaciones de IA. Al incorporar a NGC tecnologías procedentes de las últimas investigaciones sobre IA, los clientes pueden estar seguros de que disponen de las mejores opciones para desarrollar sus aplicaciones de IA. Gracias a los modelos de IA preentrenados y al aprendizaje por transferencia, los clientes pueden desarrollar soluciones de IA mucho más rápido que antes utilizando NGC.
Ventajas de los sistemas Supermicro NGC-Ready
Los sistemas Supermicro NGC-Ready están validados para el rendimiento y la funcionalidad para ejecutar contenedores NGC. Combinados con el software NVIDIA NGC, los sistemas NGC-Ready de gama alta pueden agregar GPU a través de redes y almacenamiento rápidos para entrenar grandes modelos de IA con grandes lotes de datos. Los sistemas NGC-Ready para Edge implementan aplicaciones de IA para inferencia de IA.
Los sistemas Supermicro NGC-Ready también ofrecen las siguientes capacidades y servicios:
- Los sistemas de rendimiento validado aceleran el tiempo de obtención de soluciones y permiten a los responsables de TI elegir el sistema adecuado para las cargas de trabajo de IA apropiadas
- Supermicro ofrece un servicio opcional para permitir el desarrollo inmediato de software de IA cuando los sistemas se encienden. El sistema operativo, CUDA, CUDA-X, los controladores NVIDIA y la infraestructura de contenedores vienen precargados.
- Acceso a los modelos de IA de aprendizaje profundo más recientes y vanguardistas de NVIDIA NGC. Utilizando modelos preentrenados y sus propios datos, se pueden construir nuevos modelos de IA de forma eficiente.
- Los contenedores NGC se ejecutan en cualquier lugar, ya sea en los sistemas Supermicro del centro de datos, en microcentros de datos de borde, en servidores de borde o en la nube si se requiere expansión a la nube. Kubernetes automatiza la implementación, el escalado y la gestión de contenedores en su entorno de producción.
- Los servicios de soporte de hardware, SO y NVIDIA NGC están disponibles
- Servicio para configurar el rack, los servidores, el almacenamiento y la red
- Servicio de consultoría Kubernetes para el despliegue multiservidor
Supermicro ofrece Sistemas NGC-Ready como parte de nuestra pila de soluciones de IA/DL, incluyendo soporte de nivel empresarial. Para obtener más información, póngase en contacto con su representante de ventas de Supermicro.
Supermicro y NGC – Arquitectura de solución
Los sistemas Supermicro NGC Ready permiten a los clientes ejecutar toda su infraestructura de IA, desde el entrenamiento de grandes volúmenes de datos hasta la inferencia en centros de datos y la inferencia en el borde.
Sistemas Supermicro NGC-Ready
Supermicro Servidores NVIDIA GPU Cloud (NGC) validados. Consulte aquí para ver la lista publicada más reciente.
 |  | |  |  |  | |
FormaciónInferencias Centro de datosBorde | ||||||
| SYS-4029GP-TVRT | SYS-2029GP-TR | SYS-2029GP-TR | SYS-1019D-FHN13TP | SYS-E403-9P-FN2T | SYS-5019D-FN8TP | |
| CPU | 2 * Xeon escalable | 2 * Xeon escalable | 2 * Xeon escalable | 1 * Xeon D | 1 * Xeon D | 1 * Xeon D |
| Acelerador | 8 * V100 NVLink | 2 * V100 | 4 * T4 | 2 * T4 | 2 * T4 | 1 * T4 |
| Memoria | 6 | 4 | 4 | 512 | 512 | 512 |
| Almacenamiento | 16 * SATA3; 8 * NVMe | 8 * SATA3; 2 * NVMe | 8 * SATA3; 2 * NVMe | 4 * SATA3 | 4 * SATA3 | 4 * SATA3 |
| Red | 100GbE, GPU RDMA directo | 100GbE, GPU RDMA directo | 100GbE, GPU RDMA directo | 10GbE, 10GSFP | 10GbE, 10GSFP | 10GBase-T, 10GSFP+ |
| Factor de forma | Montaje en bastidor 4U | Montaje en bastidor 2U | Montaje en bastidor 2U | Profundidad corta | Caja PC, profundidad corta | Montaje en pared |
Sistemas Supermicro® Impulsados por GPU NVIDIA para el Mejor Rendimiento de Inferencia de IA Utilizando NVIDIA TensorRT
Conozca los beneficios de utilizar NVIDIA NGC y NVIDIA TensorRT para obtener el mejor rendimiento de inferencia mediante sistemas Supermicro equipados con GPU NVIDIA. Este informe técnico también muestra cómo configurar NGC en un servidor Supermicro y cómo utilizar TensorRT para inferencia.
Escalado del entrenamiento de IA con sistemas GPU NVIDIA diseñados por Supermicro
El tiempo de comercialización es clave para el éxito en el desarrollo actual de la IA. Al utilizar sistemas con GPU NVIDIA diseñados por Supermicro, con todo el stack de IA más reciente instalado y compatible, los científicos de datos y desarrolladores de IA pueden comenzar a probar y entrenar sus modelos de IA para el desarrollo de productos e investigación.
Encendido de la IA
La IA está ayudando a resolver algunos de los problemas más complejos del mundo. Resolver estos enormes desafíos requiere la computación de grandes cantidades de datos y modelos de IA altamente optimizados que se ejecutan a escala. NVIDIA GPU Cloud (NGC) es el centro de software acelerado por GPU para IA y HPC optimizadas. Los sistemas NGC-Ready de Supermicro facilitan y hacen eficiente la ejecución de grandes cargas de trabajo con una pila completa de hardware y software acelerados por GPU NVIDIA Tensor Core de extremo a extremo.