Chargement...
Chargement...
Chargement...
IA8 mars 202411.7 MIN. DE LECTURE

Architecture IA Edge : L'Edge est l'endroit idéal pour l'IA

Un graphique de l'architecture IA de périphérie

L'IA semble faire partie de chaque conversation liée à la technologie ces derniers temps. Pendant un certain temps, l'IA semblait plus être un engouement qu'une réalité, mais nous semblons maintenant être à un point d'inflexion important. Un exemple de l'omniprésence de l'IA : j'ai eu le plaisir d'assister au sommet "IA Hardware and Edge AI" en septembre 2023, et Andrew Ng, l'un des leaders d'opinion dans le domaine de l'IA, a commencé son discours en décrivant l'IA comme la "Nouvelle Électricité".

Selon l'IA École de gestion Sloan du MIT, elle peut augmenter la productivité des travailleurs hautement qualifiés de 40 % par rapport à ceux qui ne l'utilisent pas. Maintenant, c'est une proposition prometteuse. Historiquement, nous considérions des gains de quelques pourcents comme une grande amélioration, mais de tels bonds sont vraiment transformateurs. Mais pourquoi ? Pourquoi tout à coup y a-t-il tant d'élan et d'enthousiasme autour de l'IA ? L'IA n'est pas nouvelle ; les concepts de base existent depuis les années 1950. Jetons un coup d'œil aux Factors qui alimentent la croissance de l'IA.

Qu'est-ce qui alimente la croissance de l'IA ?

Tout d'abord, des progrès significatifs ont été réalisés concernant les réseaux neuronaux profonds. L'introduction de cela « Transformer Model » par Ashish Vaswani en 2017 est considérée comme un moment décisif dans le domaine. Le modèle basé sur le transformateur est plus précis que les autres modèles car il peut comprendre la relation entre des éléments séquentiels éloignés les uns des autres. De plus, c'est rapide car il se concentre sur les parties les plus importantes d'une séquence. Ces défis avaient tourmenté les modèles précédents. Le modèle de transformateur a été essentiel pour permettre les puissants grands modèles de langage que nous avons aujourd'hui. De plus, ces dernières années, un grand nombre de modèles pré-entraînés ont été développés et sont gratuits à utiliser, réduisant considérablement le travail nécessaire pour créer un modèle personnalisé pour un cas d'utilisation spécifique.

Ensuite, il y a l'abondance de données. D'énormes quantités de données sont produites à la périphérie, par exemple dans les usines modernes. Dans son discours discours-programme-au-ces-2024, Dr. Roland Busch, PDG de Siemens, a estimé qu'une usine avec une forte Automatisation d'usine génère aujourd'hui environ 2 000 To (équivalent au volume de données de 500 000 films) de données chaque mois. Aujourd'hui, seule une très petite partie de ces données est réellement utilisée, ce qui signifie qu'il y a un énorme potentiel à les exploiter et à en tirer des informations exploitables.

Un autre pilote important est la croissance de la puissance de calcul qui peut traiter les charges de travail d'IA. Au-delà de la croissance traditionnelle de la puissance de traitement des CPU selon la loi de Moore, nous voyons émerger des "architectures accélératrices" spécifiques, comme les unités de traitement neuronal (NPUs) qui sont beaucoup plus efficaces et puissantes pour le traitement des réseaux neuronaux, base de nombreux modèles d'IA.

ia-devient-un-nom-familier

La sortie de ChatGPT par OpenAI au public en novembre 2022 représente une étape importante pour l'IA. Pourquoi ? Parce qu'elle a permis à tout le monde, pas seulement aux chercheurs ou aux professionnels de la technologie, d'avoir un aperçu de ce que l'IA pouvait faire. Cela a aidé, d'une manière difficile à exagérer, à augmenter la sensibilisation, l'intérêt et la compréhension des concepts et du potentiel de l'IA auprès d'un large public. Cela a, à son tour, alimenté l'appétit pour identifier des moyens d'utiliser l'IA.

Les entreprises réalisent de plus en plus les avantages potentiels d'utiliser l'IA dans toutes les fonctions d'une société. Chez OnLogic, par exemple, nous avons identifié plus de 100 cas d'utilisation potentiels dans les différentes fonctions de l'entreprise où l'IA pourrait potentiellement aider à améliorer l'efficacité et l'efficience au sein de l'organisation. C'est une immense opportunité, et il est important de se rappeler que nous ne faisons qu'effleurer le potentiel de l'IA. Les entreprises reconnaissent un risque réel d'être laissées pour compte si elles n'utilisent pas l'IA pour augmenter leur compétitivité sur leur marché. La question à laquelle les entreprises font face est rapidement devenue : pouvez-vous vous permettre de ne pas investir dans l'IA Selon Forbes ? 64 % des entreprises s'attendent à ce que l'IA augmente la productivité. Cependant les recherches montrent, seulement 35 % des entreprises utilisaient l'IA en 2023. Encore une fois, il est clair qu'une vague d'IA est en train de culminer.

En conséquence, l'IA devrait connaître un taux de croissance annuel composé de 37,3 % de 2023 à 2030. Mettons cela en perspective. Supposons, par exemple, que vous ayez 100k $ dans votre 401k au début de 2023 et que vous n'y fassiez plus de contributions. Si votre solde augmente de 37,3 % par an, alors à la fin de 2030, votre solde serait de 1 262 886 $, soit plus d'un Factor 12 de croissance par rapport au début de 2023. C'est vraiment une croissance énorme ! Cette croissance impressionnante de l'IA signifie qu'il y a beaucoup de travail à faire pour que les Développeurs conçoivent et mettent en œuvre ces solutions IA ainsi que les appareils et infrastructures pour les soutenir.

Qu'est-ce que le bord et où se trouve-t-il ?

Alors, nous avons établi que l'IA a du potentiel, mais comment cela se rapporte-t-il à l'ordinateur de périphérie ? D'abord, assurons-nous d'être sur la même longueur d'onde concernant ce qu'est l'edge. Ci-dessous se trouve un diagramme développé par le Fondation Linux Développeur qui montre le continuum du bord au cloud.

Un graphique qui montre le continuum du bord au cloud

Notre objectif est sur le "User Edge", qui décrit le matériel sur les locaux de l'entreprise. Cela peut inclure tout, des dispositifs de point final tels que les PLC contrôlant l'équipement de fabrication, au matériel sur les véhicules guidés automatisés (AGV) déplaçant des produits ou des composants sur le sol d'une usine. Le périmètre utilisateur inclut également tout PC industriel utilisé sur le sol de l'usine, qui pourrait, par exemple, exécuter des charges de travail d'inférence pour un système de vision par ordinateur. Le diagramme ci-dessous montre les opérations de fabrication avec deux usines. Chaque usine peut abriter de nombreux périphériques de périphérie effectuant, par exemple, des opérations d'inférence. Le périphérique utilisateur inclut généralement un centre de données localisé qui peut être utilisé pour le stockage de données, l'entraînement de modèles, l'analyse de données, et plus encore.

Un graphique expliquant l'architecture de l'IA en périphérie

Pourquoi l'architecture IA en périphérie ?

Nous arrivons au cœur de la question : pourquoi, dans de nombreux cas, est-il avantageux d'exécuter des charges de travail IA à la périphérie plutôt que de se fier au cloud ?

Pour commencer, le bord est l'endroit où les données sont créées. C'est là que se trouve toute la technologie opérationnelle (OT) d'une usine de fabrication. Envoyer toutes les données vers le cloud est coûteux. Vous souvenez-vous du volume de données équivalent à 500 000 films générés chaque mois dans une usine à haute Automatisation d'usine ? Il serait trop coûteux d'envoyer et de stocker toutes ces données dans le cloud. Au-delà du coût d'envoi et de stockage des données, il y a le coût d'utilisation des ressources de calcul dans le cloud. Le cloud est très exigeant de nos jours, et le coût des ressources de calcul dans le cloud est important. Inversement, si le Traitement des données est effectué à la périphérie sur le matériel que possède le client, le seul coût est celui du matériel et le coût pour l'exploiter et le maintenir, ce qui peut être encore réduit grâce à l'utilisation du matériel industriel approprié.

Au-delà de l'aspect coût, la latence est une autre considération importante. Cela peut être problématique et limitant selon le cas d'utilisation, car des décisions rapides sont souvent nécessaires sur le sol de l'usine ou en périphérie en général. Si, par exemple, des connecteurs fraîchement produits descendent la chaîne de fabrication à un rythme élevé, il est impératif que la décision de savoir quel connecteur passe et lequel échoue à l'inspection qualité soit prise presque instantanément. De plus, si votre chaîne de production dépend de décisions prises exclusivement dans le cloud, une perte de connexion entraîne probablement un arrêt de la production, ce qui coûte de l'argent, du temps et un débit de production précieux.

Un autre avantage majeur d'une architecture d'Ordinateur de périphérie est la sécurité. De nombreuses entreprises hésitent à envoyer des données confidentielles de leur société dans le cloud et préfèrent fortement les garder sur site, réduisant ainsi les risques de cybersécurité. augmente la surface potentielle d'attaque, et il est important que les entreprises renforcent leurs nœuds d'Ordinateur de périphérie pour protéger leurs données. De nombreuses techniques, y compris SASE (Service de Sécurité d'Accès en Périphérie) ainsi que Zero Trust, sont de plus en plus déployées pour améliorer la sécurité des données, mais une architecture d'Ordinateur de périphérie est encore préférée par de nombreuses entreprises.

Gartner résume les pilotes d'ordinateurs de périphérie dans le diagramme suivant :

Un graphique expliquant l'architecture de l'IA en périphérie

Les considérations environnementales sont un pilote supplémentaire de l'adoption de l'ordinateur de périphérie. Par exemple, utiliser le edge par rapport au cloud réduit le profil énergétique global. Les centres de données consomment de grandes quantités d'énergie, contribuant ainsi aux émissions de gaz à effet de serre. De plus, l'énergie est nécessaire pour envoyer des données entre le cloud et l'edge Les entreprises peuvent réduire leurs coûts énergétiques.. en déplaçant les charges de travail IA du cloud vers l'edge.

Permettez-moi d'ajouter un autre point de preuve que l'IA Edge devient une réalité. Jetons un coup d'œil au cycle de hype Gartner 2023. Le graphique ci-dessous a été publié en juillet 2023 et montre que l'« IA de périphérie » atteint le « Plateau de productivité », ce qui signifie l'état où elle atteint sa pleine maturité pour la mise en œuvre, dans les 2 ans à partir de cette date. Cela dit, examinons comment nous mettons en œuvre l'IA à la périphérie.

Un graphique expliquant l'architecture de l'IA en périphérie

comment-implementer-ia-au-bord

Donc, vous avez envisagé vos options (et les informations ci-dessus) et décidé qu'une mise en œuvre de l'IA en périphérie est adaptée à votre entreprise. Où commencer ? Inhérentement, l'IA est un logiciel, mais pour déployer ce logiciel, vous aurez besoin du bon matériel. Voici quelques éléments à prendre en compte.

Environnement

Dans le calcul en périphérie, l'environnement d'installation diffère souvent considérablement d'un centre de données ou bureau climatisé. Il peut faire chaud, froid ou humide, être situé à l'extérieur ou dans une aciérie brûlante (par exemple). L'air peut être rempli de particules, allant de la meubles aux arômes de production de chips. Le bord est composé d'une vaste gamme d'endroits où un ordinateur standard ne survivrait pas longtemps. Pour surmonter de tels environnements difficiles, des ordinateurs industriels ou ordinateurs robustes sont nécessaires. Ces types de systèmes sont conçus pour des environnements difficiles et offrent fiabilité et tranquillité d'esprit aux opérateurs.

Un ordinateur robuste posé sur une table dans un environnement de production de travail des métaux.

Charges de calcul

Pour les opérations d’inférence, vos exigences en matière de puissance de calcul varieront selon le cas d’usage précis, le volume de données à traiter et la rapidité avec laquelle ces données doivent être traitées. Bien que cela puisse surprendre certains, mais pour de nombreux cas d’usage de l’IA, la puissance de calcul intégrée du CPU peut être suffisante. Cette réalité est devenue encore plus pertinente avec l’introduction des processeurs Intel® Core™ Ultra qui vont au-delà de la simple augmentation de la puissance du CPU en intégrant, directement au sein du processeur, des capacités de calcul GPU nettement plus avancées.

L’un des principaux éléments différenciateurs de cette nouvelle génération est l’intégration directe des unités de traitement neuronal (NPU) dans l’architecture du processeur. Ainsi, dans les processeurs Intel Core Ultra, ce moteur d’IA dédié permet de prendre en charge efficacement un nombre croissant de cas d’usage d’inférence, sans devoir recourir à un accélérateur supplémentaire. Toutefois, si l’application nécessite une puissance supérieure à celle que peut offrir cette nouvelle architecture de « PC IA », notamment pour traiter plusieurs flux vidéo à haute cadence, des ordinateurs industriels équipés de cartes graphiques dédiées ou d’accélérateurs spécialisés resteront une nécessité.

Tous les modèles des séries d'ordinateurs industriels robustes Karbon et Helix 520 sont présentés ici, avec l'ensemble des modèles disponibles.

󠀰Les ordinateurs OnLogic des séries Helix 520 et Karbon 520 sont équipés de processeurs Intel Core Ultra.󠀲󠀣󠀳

Entraînement du modèle

Au-delà de la charge de travail d'inférence, dans la plupart des applications, les modèles doivent être continuellement entraînés pour intégrer un apprentissage continu. Cette formation nécessitera généralement une plus grande puissance de calcul et peut être gérée par un serveur de périphérie. Ce serveur de périphérie peut se trouver sur le sol de l'usine ou dans une salle de serveurs dédiée. Les serveurs de périphérie peuvent également être utilisés pour surveiller et gérer la dérive du modèle ou effectuer toute analyse requise par l'entreprise. Pour en savoir plus, consultez acceleration-ia-au-bord "", une session tenue lors de l'AWS re:invent 2023 qui se concentre sur divers aspects des implémentations en périphérie.

Exigences logicielles

Pour faire fonctionner ce type d'architecture d'ordinateur de périphérie, plusieurs couches logicielles au-delà de la couche du système d'exploitation sont nécessaires. Les déploiements de périphérie nécessiteront souvent un grand nombre de passerelles, de serveurs de périphérie, de dispositifs d'inférence, etc. La capacité d'intégrer, de déployer et de mettre à jour efficacement les appareils est essentielle. C'est particulièrement important car il y a souvent peu ou pas de ressources techniques sur place, et les entreprises avec plusieurs sites peuvent rencontrer des défis lorsque les mises à jour ou déploiements de systèmes ne sont pas synchronisés. Ceci est généralement géré par l'orchestration de périphérie et le logiciel de gestion à distance. Les charges de travail IA sont également souvent exécutées sous forme de conteneurs, nécessitant le logiciel approprié. Et par-dessus toutes ces couches, le logiciel d'application IA pour le cas d'utilisation spécifique est nécessaire.

Rapatriement vers le cloud

Donc, nous avons vu comment déployer avec succès l'IA à la périphérie, mais souvent les entreprises commencent par une solution d'IA mise en œuvre dans le cloud. De plus en plus d'entreprises réalisent la valeur de leurs ressources de calcul vers la périphérie Selon computerweekly-com. Dans une enquête récente d'IDC, 71 % des répondants ont indiqué qu'ils prévoient de rapatrier partiellement ou totalement. Les raisons les plus courantes citées pour ce déménagement prévu sont la réduction des coûts, l'amélioration des performances et l'augmentation de la sécurité. Cela vous semble-t-il familier ?

Le fait est que chaque entreprise est unique et l'emplacement optimal de vos ressources de déplacement dépendra de ce que vous souhaitez faire avec vos données. La mise en œuvre finale ne sera pas toujours aussi tranchée entre le cloud et l'edge, mais plutôt une solution hybride. De nombreux logiciels peuvent exécuter les charges de travail soit sur le cloud, soit en périphérie, et sont indépendants du matériel spécifique utilisé. Cela offre aux utilisateurs beaucoup de flexibilité pour adopter une approche qui combine le meilleur des deux mondes : les avantages du cloud en termes de puissance de calcul et le contrôle physique de l'edge.

Conclusions

Pour conclure, citons une autre statistique : selon Gartner, d'ici fin 2026, 70 % des grandes entreprises auront une stratégie documentée pour le calcul sur Ordinateur de périphérie, contre moins de 10 % en 2023. Selon la même étude, d'ici 2026, 50 % des déploiements d'ordinateurs de périphérie impliqueront l'apprentissage automatique, contre 5 % en 2022. Tout cela signifie que l'edge continuera d'être l'endroit idéal pour les entreprises de toutes tailles dans les années à venir, et ceux qui y entreront en connaissant sa valeur seront les mieux placés pour en profiter.

michael kleiner
Michael Kleiner
VP des Solutions IA Edge
Dr. Michael Kleiner est le vice-président des solutions IA Edge chez OnLogic, aidant à apporter notre matériel de calcul testé en industrie au monde des solutions Edge et du conseil en IA. Michael a rejoint OnLogic en 2015 pour diriger les équipes d'Ingénierie et de Gestion de Produit.

Restez informé.

Soyez le premier à découvrir en exclusivité les derniers produits, les innovations de l'Industrie 4.0 et les événements OnLogic.