Déploiement de NVIDIA Jetson pour l'automatisation alimentée par l'IA
NVIDIA® Jetson™ est devenu un leader précoce dans la course actuelle à la suprématie des plateformes matérielles pour soutenir la croissance massive des déploiements de l'intelligence artificielle (IA). NVIDIA est déjà un nom bien connu dans le monde de la des GPU, et leur famille de SOMs Jetson Embarqué (System on Module) combine des CPU ARM avec des GPU spécialisés, optimisés spécifiquement pour la multiplication de matrices, un élément central de la plupart des charges de travail IA en périphérie.
Dans cet article de blog, nous explorerons la valeur que NVIDIA Jetson offre pour ceux qui déploient des solutions IA, aborderons les principales différences entre les différentes versions de Jetson, et expliquerons quand et où Jetson est le mieux utilisé pour les applications d'automatisation industrielle.
Jetson vs gpu-discret-et-cpu
L'un des principaux avantages de NVIDIA Jetson est qu'il simplifie les exigences matérielles pour mettre en œuvre l'IA. Les GPU discrets et les accélérateurs supplémentaires continueront de jouer un rôle dans les implémentations d'IA, mais Jetson offre de nombreux avantages pour l'IA en périphérie.
Conçu spécialement pour l'IA en périphérie
Les GPU discrets ont été initialement conçus pour rendre des graphismes complexes pour des jeux vidéo immersifs. Ils ont depuis trouvé une nouvelle vie en alimentant une gamme d'applications nécessitant un traitement parallèle. Les appareils NVIDIA Jetson sont spécialement conçus et optimisés pour le calculde périphérie, utilisant à la fois les cœurs CUDA et Tensor (selon le modèle) pour intégrer des capacités analytiques incroyables dans un appareil au format compact.
Efficacité énergétique
Les modules NVIDIA Jetson sont conçus pour être économes en énergie, ce qui les rend adaptés à une utilisation dans des environnements à faible consommation d'énergie, souvent présents en périphérie.
Les combinaisons traditionnelles de GPU et CPU ne privilégient pas toujours le même niveau d'efficacité énergétique, car elles sont souvent utilisées dans les centres de données où les ressources énergétiques sont plus abondantes.
Format compact
Les modules Jetson sont compacts et destinés à être utilisés dans des appareils au format compact, tels que les robots, les drones et les appareils IdO. Cela les rend bien adaptés aux applications où l'espace est limité.
Les combinaisons GPU et CPU régulières peuvent ne pas être aussi compactes et peuvent être conçues pour des systèmes plus grands comme les ordinateurs de bureau.
Écosystème logiciel
Les appareils Jetson sont pris en charge par l'écosystème logiciel de NVIDIA, y compris des bibliothèques et des frameworks optimisés pour les charges de travail IA. Bien que les combinaisons GPU et CPU classiques puissent également exécuter des charges de travail IA, l'écosystème logiciel peut différer, et l'optimisation pour l'IA en périphérie pourrait ne pas être aussi prononcée.
Avantages de NVIDIA Jetson
L'un des éléments les plus attrayants de la plateforme Jetson est qu'elle permet aux utilisateurs de déployer des modèles d'IA, à grande échelle, directement sur périphérie. Cette puissante combinaison des capacités de calcul de l'IA et de la collecte et analyse de données sur site permet des insights en temps réel sans besoin de connexion constante au cloud. Autres avantages incluent :
Faible latence : Étant donné que les périphériques de périphérie alimentés par Jetson effectuent le traitement des données sur place, ils peuvent aider à minimiser la latence associée à l'envoi de données vers des serveurs centralisés ou basés sur le cloud. Les applications qui peuvent bénéficier d'une latence réduite incluent la robotique de fabrication, l'équipement d'entreposage autonome et l'inspection de la qualité, ainsi que partout où des décisions doivent être prises instantanément pour optimiser le débit et/ou éviter les blessures.
Efficacité énergétique : Quelques périphériques de périphérie IA gourmands en énergie sont une chose, mais lorsqu'on étend les déploiements matériels à des centaines ou même des milliers de systèmes, les coûts énergétiques augmentent rapidement. La plateforme Jetson est conçue pour offrir des capacités de calcul haute performance tout en maintenant une consommation d'énergie minimale. Les déploiements mobiles fonctionnant sur batterie ou énergie solaire, ou les applications avec un accès limité à l'énergie, peuvent également bénéficier de l'efficacité de Jetson.
Polyvalence : Pour la création de solutions, Jetson prend en charge une gamme de cadres IA et offre une plateforme robustebibliothèque de développeur pour les utilisateurs, allant de la reconnaissance d'images de base au traitement avancé du langage naturel. Jetson est également remarquablement petit, ce qui signifie que les systèmes alimentés par Jetson peuvent être installés pratiquement partout où ils sont nécessaires.
Choisir le bon appareil Jetson
NVIDIA propose une gamme de modèles Jetson, chacun conçu pour un sous-ensemble particulier d'applications IA. Le niveau de performance requis et les fonctionnalités particulières dont vous avez besoin guideront votre choix de plateforme Jetson. Les dernières sorties de la gamme NVIDIA Jetson ont été lancées en 2023 dans le cadre de la ligne Jetson Orin™.
Jetson Orin Nano™
Cela peut être l'option "niveau d'entrée" dans la gamme Orin, mais c'est tout de même un grand pas en avant pour Jetson. NVIDIA dit Le dispositif ultra-Compact, de 7 à 15W, offre jusqu'à 40 TOPS (trillions d'opérations par seconde) de performance IA, soit jusqu'à 80 fois la performance de son prédécesseur, le Jetson Nano.
Quand utiliser Orin Nano :
Automatisation légère : Orin Nano est idéal pour les applications d'automatisation à petite échelle, en particulier celles avec des exigences de traitement moindres. C'est une option économique pour les utilisateurs exécutant des tâches simples comme le contrôle qualité de base ou la surveillance.
Contraintes d'espace : Le format compact du Jetson Orin Nano facilite son intégration dans des applications à espace restreint ou des solutions edge plus petites.
Prototypage : Orin Nano est également un bon choix pour le prototypage ou à des fins éducatives. Si vous souhaitez expérimenter l'IA dans l'automatisation d'usine ou tester la praticité de votre mise en œuvre sans un investissement initial important, vous pourriez envisager Orin Nano.
Jetson Orin NX™
L'Orin NX augmente la performance à 100 TOPS de performance IA, mais parvient à maintenir le même format compact que l'Orin Nano.
Quand utiliser Orin NX :
Automatisation au quotidien : Orin NX équilibre performance et consommation d'énergie pour offrir une plateforme solide pour les applications d'automatisation d'usine de taille moyenne.
Applications basées sur la vision : Les capacités de traitement de l'Orin NX sont bien adaptées aux applications IA qui dépendent des données des caméras connectées. Des tâches comme la détection d'objets, la mesure, le suivi et la surveillance peuvent toutes être déployées sur un système Orin NX, tant qu'une puissance de calcul modérée est requise.
Déploiement complet en usine : Pour les utilisateurs cherchant à déployer une seule plateforme matérielle pour une gamme d'applications d'automatisation, l'Orin NX est suffisamment polyvalent pour être utilisé dans toute une installation.
Jetson AGX Orin™
La centrale de la gamme Jetson Orin, l'AGX Orin, offre 275 TOPS de performance IA dans un Factor légèrement plus grand qui peut toujours être intégré dans l'empreinte Compact d'un Périphérique de périphérie Embarqué.
Quand utiliser AGX Orin :
Automatisation haute performance : AGX Orin est conçu pour les scénarios d'automatisation d'usine nécessitant un calcul intensif. Il est capable d'exécuter des modèles IA complexes et un traitement de données à grande échelle.
Robots et systèmes de vision avancés : Si un déploiement d'automatisation implique des robots avancés ou des robots, une vision par ordinateur sophistiquée ou des algorithmes IA complexes, AGX Orin fournit la puissance nécessaire pour les Ordinateurs pour la robotique.
Déploiements IA à grande échelle : AGX Orin est idéal pour les installations de fabrication à grande échelle nécessitant plusieurs périphériques de périphérie haute performance effectuant un traitement parallèle et une coordination d'applications entre une flotte de systèmes.
Que signifie TOPS dans l'IA ?
Le monde de la technologie adore un acronyme unificateur pour comparer les plateformes matérielles, et le matériel IA ne fait pas exception. TOPS signifie Trillions d'Opérations par Seconde et est devenu l'une des spécifications les plus couramment utilisées pour illustrer les capacités d'une plateforme IA particulière. TOPS indique le nombre d'opérations de calcul qu'une puce IA peut gérer. Bien sûr, ces "opérations" peuvent varier énormément, donc comme d'autres spécifications matérielles trop simplifiées (pensez aux GHz pour mesurer la performance d'un CPU), les TOPS ne vous diront pas toujours comment un système particulier fonctionnera face à une charge de travail réelle. TOPS reste un indicateur de comparaison pertinent, mais il ne faut pas s'y fier comme seul critère de décision pour choisir la bonne plateforme pour votre projet.
Déploiement de Jetson dans la fabrication
Les fabricants ont été essentiels pour stimuler la demande pour les appareils équipés de NVIDIA Jetson. Les entreprises avant-gardistes qui cherchent à optimiser leurs lignes de production, augmenter le débit et minimiser les taux de rebut ou les temps d'arrêt, se tournent vers la plateforme Jetson pour intégrer l'IA dans leurs installations. Voici quelques exemples où Jetson a le potentiel de briller dans un environnement de fabrication :
Contrôle de qualité et détection des défauts
Quand utiliser Jetson : Les appareils Jetson sont idéaux pour les applications de contrôle qualité en temps réel où une prise de décision rapide est cruciale. Les ordinateurs de périphérie alimentés par Jetson peuvent traiter les images et les données des capteurs sur place, identifiant les défauts et anomalies à mesure que les produits avancent sur la chaîne de production.
Où installer Jetson : Les appareils Jetson peuvent être installés à des points d'inspection clés sur la ligne, tels que les stations d'assemblage et les zones d'emballage. La faible latence de la plateforme permet d'identifier rapidement les défauts, ce qui aide à prendre des mesures correctives et réduit la probabilité que des produits défectueux atteignent les clients.
Maintenance prédictive
Quand utiliser Jetson : La maintenance prédictive peut aider les fabricants à maximiser le rendement en évitant les arrêts imprévus. Les appareils Jetson peuvent analyser les données des capteurs pour prédire quand l'équipement est susceptible de tomber en panne, permettant ainsi une maintenance proactive.
Où implémenter Jetson : Les périphériques de périphérie utilisant Jetson peuvent être connectés ou installés sur des machines et équipements à travers l'atelier de production. En surveillant et en analysant continuellement les outils et équipements, les fabricants peuvent planifier des interventions de maintenance avant qu'une panne ne survienne, minimisant ainsi les perturbations.
Robotique et cobotique
Quand utiliser Jetson : Jetson offre la puissance de calcul nécessaire pour la robotique pilotée par l'IA dans l'automatisation de la production. Les tâches nécessitant adaptabilité, précision et capacité d'apprentissage de l'environnement peuvent bénéficier de la puissance de l'inférence IA sur site que propose Jetson.
Où implémenter Jetson : Les systèmes Jetson peuvent être intégrés dans des solutions robotiques gérant des tâches comme le pick-and-place, l'assemblage, la manutention des matériaux et la palettisation. Les capacités de traitement en temps réel de la plateforme permettent aux robots de s'adapter aux variations de l'environnement de production et de collaborer en toute sécurité avec les travailleurs humains.
Optimisation du traitement
Quand utiliser Jetson : C'est un domaine vaste, mais il est important de souligner que les appareils Jetson peuvent optimiser les processus de fabrication dans une installation ou une organisation en analysant les données de divers capteurs et caméras. Ils peuvent être particulièrement utiles dans des environnements de production complexes avec de multiples variables pouvant affecter le rendement.
Où implanter Jetson : Les appareils Jetson peuvent être installés à des points critiques du processus de Traitement pour surveiller et analyser les données liées au débit, aux temps de cycle et à l'utilisation des ressources. Les informations obtenues peuvent aider les fabricants à identifier les domaines à améliorer et à renforcer l'efficacité opérationnelle globale.