Supermicro Open Storage Summit ’26

Le stockage des données d'inférence IA implique un compromis entre performance et coût. Atteindre les performances cibles dans le respect du budget nécessite une ingénierie rigoureuse et la sélection de la technologie de stockage la plus adaptée à chaque tâche. La combinaison d'un système de fichiers parallèle haute performance utilisant exclusivement des supports flash avec un niveau de stockage objet basé principalement sur des disques durs offre à la fois des performances élevées et une optimisation optimale. TCO Cette session réunit les leaders du stockage de fichiers et d'objets, des supports flash, des disques durs et des processeurs de WEKA, Scality, Samsung Semiconductor, WD et d'autres entreprises. Supermicro décrire comment tout cela s'articule dans une solution technique.

Bien qu'ils utilisent généralement du matériel et des logiciels d'IA communs, les secteurs verticaux tels que les services financiers, les sciences de la vie/pharmaceutiques et la fabrication ont des exigences uniques, notamment en matière de temps de réponse, de données et de flux de travail. Dans ce panel avec DDN , Kioxia, WD et Supermicro Les intervenants examinent les échanges sur les marchés financiers et les flux de travail en génomique comme exemples de la manière dont le logiciel, SSD et HDD Les supports de stockage, ainsi que les exigences système, sont abordés, et les points communs et les différences apparaissent.

Comme toutes les initiatives informatiques, les projets d'IA nécessitent des tests d'acceptation utilisateur, des tests d'intégration et un déploiement. Cependant, ils doivent également surmonter des obstacles supplémentaires avant d'atteindre la production, notamment la maîtrise des coûts et des jetons, le choix d'une infrastructure évolutive, la préparation des données, leur accès et leur gouvernance, ainsi que l'intégration des utilisateurs. Ce panel, en collaboration avec Nutanix, MinIO et PEAK:AIO, abordera ces questions. Supermicro Cet ouvrage aborde ces défis et propose des pratiques exemplaires basées sur des déploiements antérieurs.

Les néoclouds, spécialisés dans les charges de travail d'IA à grande échelle, offrent la capacité des hyperscalers tout en conservant une expertise pointue en IA. Cette session explique comment les néoclouds fournissent des services, une évolutivité et un stockage différenciés pour accompagner les charges de travail d'IA de leurs clients. Des représentants de Crusoe présenteront comment les néoclouds, en collaboration avec leurs partenaires, différencient leurs fonctionnalités. Supermicro , VAST Données et Kioxia.

L'inférence à grande échelle nécessite l'optimisation des performances de calcul, de stockage et de réseau. Dans cette session, les intervenants expliquent comment IBM, Supermicro Kioxia peut fournir une solution hautement évolutive pour l'inférence IA. La session explique également pourquoi le cache KV et la plateforme de données IA (AIDP) sont essentiels pour améliorer le temps de réponse de l'inférence et optimiser la conception d'une usine à IA. Enfin, elle présente les avantages de cette solution combinée pour améliorer le temps de réponse du premier jeton et optimiser la conception des données et du calcul de l'AIDP. Supermicro Systèmes de stockage entièrement flash.

Les entreprises disposent souvent de divers systèmes de stockage hérités cloisonnés. L'ajout de nouvelles capacités implique d'étendre ces systèmes existants ou de déployer une infrastructure entièrement nouvelle. L'IA introduit de nouvelles exigences en matière d'intégration des systèmes de stockage et des données existants, tout en ajoutant des capacités dédiées. Cette session présente Hammerspace, Sandisk et… Supermicro discuter de la manière d'intégrer les capacités existantes et nouvelles aux flux de travail émergents en matière d'IA.

L'IA agentique à grande échelle nécessitera une mémoire de contexte haute capacité et à faible latence pour stocker et récupérer les données du cache clé-valeur (KV) utilisées dans le flux de travail d'inférence. De nouvelles architectures et niveaux de stockage ont été proposés pour résoudre ce problème en équilibrant le retraitement des requêtes d'inférence et la récupération des jetons précédemment calculés. Ce nouveau niveau, positionné entre les SSD du système GPU local et le stockage réseau, est appelé « mémoire de contexte » et permet la persistance de jetons de contexte longs dans une baie de stockage à grande échelle. Cette session avec VAST Données, Solidigm et Supermicro décrit la mise en œuvre, les utilisations et les compromis de la couche de mémoire de contexte.

Les lacs de données et les entrepôts de données (lakehouses) ont trouvé une nouvelle utilité dans l'IA, au-delà de l'analyse et de l'entreposage de données traditionnels. Les lacs de données modernes reposent sur une infrastructure de stockage objet et utilisent des formats de données standard pour garantir l'interopérabilité. Les capacités d'infrastructure transactionnelle des entrepôts de données prennent également en charge nativement les flux de travail d'IA, notamment le traitement des pipelines de données, les charges de travail d'inférence et la mise à disposition de la mémoire contextuelle. Intervenants de MinIO, AMD et Supermicro Discuter de l'évolution du rôle des lacs de données et des centres de données.

Les plateformes de données IA représentent une nouvelle catégorie d'infrastructure IA qui gère le prétraitement des données d'entreprise, notamment l'ingestion, la normalisation, la vectorisation et le transfert des données vers l'unité de traitement IA de l'entreprise. Ces systèmes évolutifs, intégrant la gestion des données et une infrastructure GPU, peuvent être déployés initialement pour les groupes de travail et évoluer en fonction de la demande. L'intégration logicielle et matérielle permet un déploiement sur site et une mise en service plus rapides. Des flux de travail intégrés pour la reconnaissance vocale, la recherche visuelle et le traitement de documents, entre autres fonctionnalités, offrent un point de départ accessible pour l'IA. Des experts de DDN , Solidigm et Supermicro Discuter des cas d'utilisation des plateformes de données d'IA.

La nouvelle génération de stockage cloud intègre des services edge sur site offrant un nœud de stockage local à faible latence, géré de manière centralisée par le fournisseur de services cloud (CSP). Lors de cette session, Iron Mountain, CSP, décrit la prochaine phase d'Iron Cloud, incluant une solution sur site pour la sauvegarde et la récupération locales, qui transfère également les données vers le backend Iron Cloud pour leur conservation à long terme. Cette solution intègre le stockage objet Scality et utilise Supermicro Systèmes backend et edge.

Les données non structurées représentent 80 à 90 % des données uniques d'une entreprise. La plupart des entreprises ne conservent que 5 % des données qu'elles génèrent, en raison des coûts et de l'expansion rapide des flux de travail d'IA, des capteurs IoT et autres données générées par les machines. Une grande partie de ces données est précieuse pour la formation future, les audits de conformité, le débogage et la compréhension des résultats de l'IA. L'agrégation, la normalisation et le traitement de ces données constituent le fondement de la mise en œuvre de l'IA en entreprise. Des leaders de Cloudian, Hammerspace, Seagate et Supermicro discuter des meilleures pratiques en matière de gestion et de conservation de ces données.

L'IA d'entreprise, et plus particulièrement l'IA agentielle, soulève de nouveaux défis informatiques, notamment en matière de préparation et de gouvernance des données, d'infrastructure matérielle et logicielle, de modèles de déploiement, de mise à l'échelle, de rentabilité et d'exploitation. Cette session avec Nutanix, AMD et Supermicro réunit des experts en infrastructure d'IA, des solutions aux systèmes en passant par les semi-conducteurs, afin de discuter des modèles de déploiement sur site et hybrides, de l'intégration des solutions et bien plus encore.