La périphérie (edge) fait référence aux processus informatiques qui se déroulent à proximité des sources de données sur ces sites - qu'il s'agisse de capteurs, d'appareils ou d'utilisateurs finaux - plutôt que de s'appuyer sur des systèmes centralisés qui sont courants dans le traitement traditionnel de l'intelligence artificielle. Cela permet des expériences hyper-personnalisées, telles que des recommandations de menus dynamiques dans les restaurants à service rapide, tout en contribuant à des économies significatives en termes de bande passante pour le transfert de données.
Supermicro et NVIDIA proposent des solutions Edge IA qui rationalisent le déploiement grâce à des composants pré-intégrés avec du matériel et des logiciels optimisés pour le traitement en temps réel.
Temps réel
Qu'il s'agisse d'analyse de données, de surveillance, de maintenance prédictive ou de personnalisation, l'IA à la périphérie vous permettra de répondre aux besoins de votre entreprise au fur et à mesure qu'ils se présentent
Ininterrompue
Le traitement et l'inférence hors ligne permettent des opérations ininterrompues dans des environnements distants ou déconnectés.
Personnalisée
Comprendre et répondre aux préférences des clients d'une manière plus naturelle et plus engageante pour créer une expérience innovante, alimentée par l'IA générative.
![YouTube : [Supermicro] Delivering AI to the Edge (L'IA à la pointe de la technologie)](https://img.youtube.com/vi/IQuT2PC2nJ0/maxresdefault.jpg)
Les deux volets de l'Edge IA
Le déploiement de l'IA à la périphérie peut répondre à deux objectifs distincts mais complémentaires : l'IA prédictive et l'IA générative. L'IA prédictive est une puissance analytique qui exploite les données historiques pour prévoir les événements futurs.
L'IA générative, à l'inverse, est un catalyseur créatif qui utilise les modèles de données sous-jacents pour synthétiser de nouvelles informations, favorisant ainsi l'innovation et l'expérience personnalisée.
Retail
Tirer parti de l'IA prédictive pour révolutionner les espaces de vente au détail.
- Protection des actifs
- Achats autonomes
- Prévision de la demande
- Systèmes de recommandation et Hyper-personalisation
Dans le secteur du commerce de détail, l'IA prédictive révolutionne la protection des actifs. En analysant les modèles et en identifiant les menaces potentielles, les systèmes d'IA fournissent aux détaillants des solutions préventives pour réduire les pertes et renforcer la sécurité des magasins.
Ces calculs doivent être effectués à la périphérie pour faciliter les réponses en temps réel qui sont nécessaires pour réagir efficacement.
Cas d'utilisation du produit
SYS-E403-14B-FRN2T
Ce système de la taille d'une boîte est idéal pour les applications d'intelligence artificielle en magasin, grâce à la puissance d'un processeur Intel® Xeon® 6 series et à la prise en charge de plusieurs cartes GPU.
SYS-112B-FWT
Ce système 1U à ultra profondeur, déployable dans des environnements à espace limité, offre un CPU Intel® Xeon® 6 et un support GPU pour les applications d'IA pour le magasin et pour l'arrière boutique.
AS -1115S-FWTRT
Ce système 1U à ultra profondeur, déployable dans des environnements où l'espace est restreint, offre un CPU AMD EPYC™ 8004 et une prise en charge de GPU pour les applications d'IA pour le magasin et pour l'arrière boutique.
SYS-212B-FN4TP
Un système de montage en rack 2U à faible profondeur conçu pour l'inférence de pointe, capable de traiter plusieurs formats d'entrée, exploitant un choix de processeurs Intel® Xeon® de la série 6 et des configurations PCIe évolutives.
SYS-322GA-NR
Serveur optimisé par le GPU, cette plate-forme 3U peut prendre en charge simultanément plusieurs charges de travail d'inférence, telles que l'analyse de flux vidéo ou le rendu d'avatars virtuels dans des kiosques d'affichage.
Restauration rapide
Permettre aux restaurants de rester en tête de la concurrence
- Bornes de commande à commande vocale
- Qualité des aliments et efficacité opérationnelle
- Prévisions et inventaire
Les restaurants à service rapide adoptent l'IA générative pour transformer l'expérience client. Les bornes de commande à commande vocale, alimentés par l'IA générative, offrent des interactions personnalisées, comprenant et répondant aux préférences des clients d'une manière naturelle et engageante.
L'IA générative peut proposer des ventes additionnelles et des suggestions complémentaires à la volée ou offrir un service client de type humain directement à la borne. Combinée à l'IA prédictive qui apprend à partir de l'historique de la carte de fidélité du client, chaque visite ultérieure peut offrir des personnalisations plus approfondies et des interactions plus agréables.
Cas d'utilisation du produit
SYS-E302-12D-4C
Un serveur sans ventilateur, puissant et léger, idéal pour les applications déployées dans des espaces non contrôlés, tels que les cuisines, équipé d'un processeur Intel® Xeon® D.
SYS-E302-12A-4C
Un serveur sans ventilateur, léger et économe en énergie, idéal pour les applications déployées dans des espaces non contrôlés, tels que les cuisines, équipé d'un processeur Intel® Atom® basse consommation.
SYS-E302-13AD
Un serveur léger sans ventilateur idéal pour les applications déployées dans des espaces non contrôlés, tels que les cuisines, équipé d'un processeur Intel® Core™ pour les charges de travail en périphérie.
SYS-E100-13AD-E
Un serveur compact sans ventilateur équipé d'un puissant processeur Intel® Core™ qui s'installe facilement dans les modules drive, les panneaux de menu, et permet d'exécuter les opérations courantes de gestion des magasins.
SYS-112B-FWT
Le système 1U à très faible profondeur offre un processeur haute performanceIntel® Xeon® série 6 et la prise en charge GPU dans des environnements contrôlés où l'espace est limité.
AS -1115S-FWTRT
Le système 1U à ultra faible profondeur offre un processeur haute performance AMD EPYC™ 8004 et une prise en charge GPU dans des environnements contrôlés à l'espace restreint.
Secteur industriel
Rationaliser les défis de la fabrication de bout en bout
- Santé et sécurité du personnel
- Inspection automatisée de la qualité
- Atténuation de la perte de talents qualifiés
L'industrie manufacturière exploite l'IA prédictive pour relever l'un de ses défis les plus importants et les plus coûteux : la sécurité sur le lieu de travail. Les entreprises utilisent le matériel Edge IA pour connecter les flux de données provenant de la vidéosurveillance, des machines et des logiciels opérationnels afin de fournir une analyse prédictive en temps réel des dangers potentiels.
Une autre application importante est l'inspection automatisée de la qualité. Par exemple, en surveillant en permanence une chaîne de production de pièces automobiles et en introduisant des données dans un système d'IA prédictive, il est possible de fournir des informations en temps réel pour le contrôle de la qualité et de réduire considérablement le risque de défauts.
Cas d'utilisation du produit
SYS-112B-FWT
L'inspection automatisée de la qualité basée sur l'IA dans l'atelier de fabrication est facilement réalisable grâce à ce système qui prend en charge un choix de processeurs Intel® Xeon® de la série 6 et la prise en charge GPU.
AS -1115S-FWTRT
L'inspection automatisée de la qualité basée sur l'IA dans l'atelier de fabrication est facilement délivrée grâce à ce système équipé d'un processeur AMD EPYC™ de la série 8004 et la prise en charge GPU.
SYS-212B-FN4TP
Exploitez la vision par ordinateur et l'IA prédictive pour garantir la sécurité sur le lieu de travail à l'aide de ce système qui prend en charge un choix de processeurs Intel® Xeon® 6 series et la prise en charge GPU.
Soins de santé et dispositifs médicaux
Aider ceux qui aident les autres à fournir des soins de la plus haute qualité
- Sécurité et suivi des patients
- Imagerie diagnostique
- Guidage
Dans le domaine de la santé, l'IA prédictive est de plus en plus testée avec l'imagerie diagnostique, dans le but d'améliorer la précision et l'efficacité des diagnostics médicaux en complétant les compétences des experts.
Un autre exemple, en particulier dans les hôpitaux, est l'utilisation de l'IA générative pour l'orientation, une application qui améliore l'expérience des patients et des visiteurs. Les kiosques numériques et les services de conciergerie, alimentés par l'IA, guident les individus à travers les aménagements complexes des hôpitaux, en offrant des directions et des informations soit sur des écrans muraux qui suivent la progression du visiteur, soit sur des mises à jour envoyées directement sur un appareil mobile.
Cas d'utilisation du produit
SYS-112B-FWT
Le système 1U à très faible profondeur offre des performances élevées et une prise en charge du GPU pour fournir des applications IA telles que l'orientation sur des kiosques numériques pour améliorer l'expérience visiteurs dans un hôpital.
SYS-212B-FN4TP
Le système rackable 2U à faible profondeur permet des applications d'inférence IA en périphérie, telles que la sécurité et la surveillance des patients en traitant plusieurs formats d'entrée, grave à ce choix de processeurs Intel® Xeon® de la série 6 et de configurations PCIe.
SYS-222HE-FTN
Répondre aux besoins des applications exigeantes telles que l'analyse prédictive, le diagnostic et la médecine personnalisée en combinant les performances de calcul d'un double processeur Intel® Xeon® 6 series avec plusieurs cartes d'extension ou cartes GPU.
SYS-322GA-NR
Optimisé pour les GPU et destiné aux applications médicales et de santé, ce serveur 3U prend en charge plusieurs charges de travail d’inférence simultanément, notamment le diagnostic, l’interprétation d’images et l’évaluation des risques.
Espaces intelligents
Améliorer la façon dont les gens interagissent avec d'autres personnes et avec leur environnement
- Gestion des foules et des parkings
- Renforcement de la sécurité
- Contrôle d'accès
- Gestion du trafic
Les espaces intelligents, tels que les lieux publics et les stades, adoptent l'IA prédictive pour la gestion des foules et des parkings. En analysant les données en temps réel, ces systèmes gèrent efficacement le trafic piétonnier et la logistique des parkings, améliorant ainsi l'expérience globale des clients tout en renforçant la sécurité.
Cas d'utilisation du produit
SYS-E403-14B-FRN2T
Tirez parti d'un large éventail d'options de déploiement, y compris avec un boîtier extérieur robuste monté sur poteau, pour toute application nécessitant la puissance d'un Intel® Xeon® série 6 et la prise en charge de plusieurs GPU.
SYS-222HE-FTN
Utilisez les performances de calcul des processeurs Intel® Xeon® série 6 avec prise en charge de plusieurs cartes GPU pour fournir des applications IA en vision par ordinateur pour la sécurité, le contrôle du trafic et la gestion des parkings.
SYS-322GA-NR
Optimisé pour les GPU et destiné à l’edge computing en entreprise, ce serveur 3U est capable de prendre en charge plusieurs charges de travail d’inférence simultanément, comme celles requises pour les grands événements et les zones fortement peuplées.
Transport
Rendre la logistique et les véhicules plus sûrs, plus efficaces et plus durables
- Optimisation des itinéraires
- Maintenance prédictive
- Gestion du trafic
L'optimisation des systèmes de transport dans les ports maritimes, les aéroports, les routes et les chemins de fer implique l'analyse de grandes quantités de données. Ces données peuvent inclure des informations sur le trafic, des prévisions météorologiques ou des flux de caméras intelligentes utilisant la vision par ordinateur. Pour s'assurer que ces données sont traitées sans délai, il faut du matériel spécialisé, conçu pour exécuter des charges de travail informatiques et d'intelligence artificielle à la périphérie du réseau.
Cas d'utilisation du produit
SYS-E403-14B-FRN2T
Serveur de périphérie de la taille d'une boîte, adapté aux petits espaces, doté d'un processeur Intel® Xeon® série 6 et prenant en charge les accélérateurs GPU ; idéal pour les applications de stationnement intelligent et de péage électronique.
SYS-E403-12P-IPA2-C
Ce serveur robuste, monté sur poteau, est conçu pour être déployé à l'extérieur dans des environnements critiques. Il est équipé d'un processeur Intel® Xeon® et d'un GPU.
SYS-E101-14AM-E
Ce système ultra, sans ventilateur, doté d'un processeur Intel® Atom®, offre des performances économiques et peut fonctionner dans une armoire extérieure.
Petit
SYS-E300-13AD
| Dimensions (mm) H × L × P | 43.0 × 264.8 × 225.8 |
|---|---|
| Caractéristiques principales pour l'IA Predictive | Vision artificielle de l'IA pour un maximum de 8 flux 1 |
| Jusqu'à ~2 000 échantillons de reconnaissance vocale automatique (ASR) par seconde 2 | |
| Caractéristiques principales pour l'IA Generative | LLM jusqu'à 8 milliards de paramètres |
| Génération d'images et de vidéos avec Stable Diffusion à raison de ~1 image toutes les 4-5 seconde | |
| Prise en charge du GPU |
|
Moyen
SYS-110D-20C-FRAN8TP3
| Dimensions (mm) H × L × P | 43.0 × 437.0 × 399.0 |
|---|---|
| Caractéristiques principales pour l'IA Predictive | Vision artificielle de l'IA pour un maximum de 16 flux 1 |
| Jusqu'à ~6 000 échantillons de reconnaissance vocale automatique (ASR) par seconde 2 | |
| Caractéristiques principales pour l'IA Generative | LLM jusqu'à 24 milliards de paramètres |
| Génération d'images et de vidéos avec Stable Diffusion à raison de ~1 image toutes les 2 secondes | |
| Prise en charge du GPU |
|
Large
SYS-E403-14B-FRN2T
| Dimensions (mm) H × L × P | 117.3 × 266.7 × 406.4 |
|---|---|
| Caractéristiques principales pour l'IA Predictive | Vision artificielle de l'IA pour un maximum de 32 flux 1 |
| Jusqu'à ~22 000 échantillons de reconnaissance vocale automatique (ASR) par seconde 2 | |
| Caractéristiques principales pour l'IA Generative | LLM jusqu'à 48 milliards de paramètres |
| Génération d'images et de vidéos avec Stable Diffusion à raison de ~1-2 images par seconde | |
| Prise en charge du GPU |
|
Extra large
SYS-222HE-(F)TN
| Dimensions (mm) H × L × P | 88.9 × 436.9 × 574.0 |
|---|---|
| Caractéristiques principales pour l'IA Predictive | Vision par ordinateur basée sur l'IA avec jusqu'à 48 flux par GPU 1 |
| Jusqu'à 32 000 échantillons de reconnaissance vocale automatique (ASR) par seconde et par GPU 2 | |
| Caractéristiques principales pour l'IA Generative | LLM jusqu'à 80 milliards de paramètres |
| Génération d'images et de vidéos avec Stable Diffusion à raison de ~ 3 images par seconde | |
| Prise en charge du GPU |
|
- Basé sur l'utilisation d'un modèle de classification d'images similaire à EfficientNet-B4, dépendant de la compression du flux vidéo et d'autres charges de travail du système.
- Basé sur l'utilisation d'un modèle ASR comme QuartzNet
- Autres modèles : SYS-110D-4C-FRAN8TP, SYS-110D-8C-FRAN8TP, SYS-110D-14C-FRAN8TP et SYS-110D-16C-FRAN8TP.
Supermicro + NVIDIA : Une gamme de solutions
Au cœur de toute implémentation Edge IA se trouve une architecture robuste et cohérente qui soutient la solution. L'approche collaborative de Supermicro et de NVIDIA fournit précisément cela : un cadre complet qui intègre des CPU, des GPU et une mémoire optimisée, le tout orchestré au sein de l'infrastructure résiliente des systèmes de Supermicro.
La pile est conçue pour garantir une efficacité et des performances maximales pour le déploiement de modèles d'IA à grande échelle. Les solutions middleware garantissent que les systèmes sont non seulement puissants, mais aussi intelligemment coordonnés et facilement intégrés dans les flux de travail existants.
La sécurité, le stockage et la mise en réseau sont des éléments fondamentaux de ces architectures, garantissant que l'intégrité et la transmission des données ne soient jamais compromises. Il en résulte une architecture de solution évolutive qui permet aux utilisateurs finaux de libérer tout le potentiel de l'IA et de l'informatique de pointe.
