Supermicro Open Storage Summit ’26

El almacenamiento de inferencias de IA requiere un equilibrio entre rendimiento y coste. Lograr el rendimiento deseado dentro del presupuesto exige una ingeniería cuidadosa y la selección de la mejor tecnología de almacenamiento para cada tarea. La combinación de un sistema de archivos paralelo de alto rendimiento que utiliza medios totalmente flash con una capa de almacenamiento de objetos basada principalmente en discos duros proporciona tanto alto rendimiento como optimización. TCO Esta sesión reúne a líderes en almacenamiento de archivos y objetos, medios flash, discos duros y CPU de WEKA, Scality, Samsung Semiconductor, WD y Supermicro para describir cómo todo se combina en una solución de ingeniería.

Si bien suelen utilizar hardware y software de IA comunes, las industrias verticales como los servicios financieros, las ciencias de la vida/farmacéuticas y la manufactura tienen requisitos únicos, incluidos los tiempos de respuesta, los datos y los flujos de trabajo. En este panel con DDN , Kioxia, WD y Supermicro Los ponentes examinan los intercambios del mercado financiero y los flujos de trabajo genómicos como ejemplos de cómo el software, SSD y HDD Se abordan los medios de almacenamiento, así como los requisitos del sistema, y ​​se analizan las similitudes y diferencias que surgen.

Como todas las iniciativas de TI, los proyectos de IA requieren pruebas de aceptación del usuario, pruebas de integración y despliegue. Sin embargo, también se enfrentan a obstáculos adicionales antes de llegar a la producción, incluidos los costos y la economía de tokens, la selección de infraestructura escalable, la preparación de datos, el acceso y la gobernanza, y la incorporación de usuarios. Este panel con Nutanix, MinIO, PEAK:AIO y Supermicro Analiza estos desafíos y ofrece las mejores prácticas basadas en implementaciones anteriores.

Las neoclouds, especializadas en cargas de trabajo de IA a gran escala, ofrecen la escalabilidad de los hiperescaladores manteniendo un enfoque específico en IA. Esta sesión se centra en cómo las neoclouds proporcionan servicios, escalabilidad y almacenamiento diferenciados para dar soporte a las cargas de trabajo de IA de los clientes. Representantes de Crusoe explican cómo la neocloud diferencia sus características y funcionalidades junto con sus socios. Supermicro , VAST Datos y Kioxia.

La inferencia a gran escala requiere la optimización del rendimiento de computación, almacenamiento y redes. En esta sesión, los ponentes analizan cómo IBM, Supermicro Kioxia puede proporcionar una solución altamente escalable para la inferencia de IA. La sesión también explica por qué KV Cache y AI Data Platform (AIDP) son fundamentales para mejorar el tiempo de respuesta de la inferencia y optimizar el diseño de una fábrica de IA. Y los beneficios que aporta la solución combinada para mejorar el tiempo de respuesta del primer token y optimizar el diseño de datos y computación de AIDP en Supermicro sistemas de almacenamiento totalmente flash.

Las empresas suelen tener una variedad de sistemas de almacenamiento heredados aislados. Agregar nueva capacidad implica extender estos sistemas heredados o implementar infraestructura desde cero. La IA introduce nuevos requisitos para incorporar los sistemas de almacenamiento y los datos existentes, al tiempo que agrega capacidad diseñada específicamente para ello. Esta sesión presenta a Hammerspace, Sandisk y Supermicro Analizando cómo integrar la capacidad existente y la nueva con los flujos de trabajo de IA emergentes.

La IA agente a gran escala requerirá memoria de contexto de alta capacidad y baja latencia para almacenar y recuperar datos de caché de clave-valor (KV) utilizados en el flujo de trabajo de inferencia. Se han propuesto nuevos niveles y arquitecturas de almacenamiento para resolver este problema, equilibrando el reprocesamiento de las consultas de inferencia con la recuperación de tokens calculados previamente. Este nuevo nivel, ubicado entre las unidades SSD del sistema GPU local y el almacenamiento en red, se ha denominado "memoria de contexto" y permite que los tokens de contexto largos persistan en una matriz de almacenamiento a gran escala. Esta sesión con VAST Datos, Solidigm y Supermicro Describe la implementación, los usos y las ventajas y desventajas del nivel de memoria de contexto.

Los lagos de datos y los centros de almacenamiento de datos han encontrado un nuevo propósito en la IA más allá del análisis tradicional y el almacenamiento de datos. Los lagos de datos modernos se construyen sobre infraestructura de almacenamiento de objetos y utilizan formatos de datos estándar de la industria para garantizar la interoperabilidad. Las capacidades de infraestructura transaccional de los centros de almacenamiento de datos también admiten flujos de trabajo de IA de forma nativa, incluido el procesamiento de canalizaciones de datos, cargas de trabajo de inferencia y servicio de memoria de contexto. Ponentes de MinIO, AMD y Supermicro Analizar la evolución de las funciones de los lagos de datos y los centros de datos.

Las plataformas de datos de IA representan una nueva categoría de infraestructura de IA que gestiona el preprocesamiento de datos empresariales, incluyendo la ingesta de datos, la normalización, la vectorización y la transferencia de datos a la fábrica de IA empresarial. Estos sistemas escalables, que incorporan tanto la gestión de datos como la infraestructura de GPU, pueden comenzar con una configuración pequeña para grupos de trabajo y escalar a medida que crece la demanda. El software y el hardware preintegrados permiten una implementación in situ más rápida y una mayor disponibilidad operativa. Los flujos de trabajo integrados para RAG, búsqueda visual y procesamiento de documentos, entre otras capacidades, proporcionan un punto de partida accesible para la IA. Expertos de DDN , Solidigm y Supermicro Analizar casos de uso de plataformas de datos de IA.

La próxima generación de almacenamiento en la nube incorpora servicios de borde locales que proporcionan un nodo de almacenamiento local de baja latencia que puede ser administrado centralmente por el CSP. En esta sesión, el CSP Iron Mountain describe la siguiente fase de Iron Cloud, que incluye una solución local para copias de seguridad y recuperación locales que también transfiere datos al backend de Iron Cloud para su retención a largo plazo. Esta solución incorpora almacenamiento de objetos Scality y utiliza Supermicro Sistemas de backend y de borde.

Los datos no estructurados representan entre el 80 % y el 90 % de los datos únicos de una empresa. La mayoría de las empresas retienen solo el 5 % de los datos que generan debido al costo y a la rápida expansión de los flujos de trabajo de IA, los sensores de IoT y otros datos generados por máquinas. Gran parte de estos datos son valiosos para la capacitación futura, así como para las auditorías de cumplimiento, la depuración y la comprensión de los resultados de la IA. La agregación, normalización y procesamiento de estos datos forman la base de la implementación de la IA empresarial. Líderes de Cloudian, Hammerspace, Seagate y Supermicro Analizar las mejores prácticas para gestionar y conservar estos datos.

La IA empresarial, especialmente la IA con agentes, introduce nuevos desafíos de TI, que incluyen la preparación y gobernanza de datos, la infraestructura de hardware y software, los modelos de implementación, la escalabilidad y la economía, y las operaciones. Esta sesión con Nutanix, AMD y Supermicro Reúne a expertos en infraestructura de IA desde las perspectivas de soluciones, silicio y sistemas para debatir sobre modelos de implementación locales e híbridos, integración de soluciones y mucho más.